ทุกองค์กรที่กำลังพัฒนาและใช้งาน ปัญญาประดิษฐ์ (AI) จำเป็นต้อง จัดการความเสี่ยงที่เกี่ยวข้องกับมัน ซึ่งรวมถึงภาครัฐ เอกชน และหน่วยงานที่ไม่ใช่ภาครัฐ
แม้ว่าจะมีกรอบงาน กระบวนการ และเครื่องมือการจัดการความเสี่ยงมากมายที่พร้อมให้ใช้งานแล้ว แต่ความเสี่ยงที่เกิดจากระบบ AI นั้นมีเนื้อหาที่ไม่ซ้ำใคร ทั้งนี้เนื่องจากความเสี่ยงที่เกี่ยวข้องกับ AI สามารถเปลี่ยนแปลงได้ตลอดเวลา มักจะซับซ้อน โดยเนื้อแท้แล้วเป็นเรื่องของเทคนิคทางสังคม และอาจทำให้เกิดผลลัพธ์ที่ไม่เท่าเทียมหรือไม่พึงประสงค์สำหรับบุคคลและสังคม
รัฐบาลสหรัฐอเมริกา NIST (สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ) ได้พัฒนากรอบการทำงานเพื่อช่วยจัดการความเสี่ยงที่เกี่ยวข้องกับปัญญาประดิษฐ์ (AI) ซึ่งเรียกว่า NIST AI Risk Management Framework (AI RMF) สิ่งนี้ถูกสร้างขึ้นตามพระราชบัญญัติการริเริ่มปัญญาประดิษฐ์แห่งชาติของสหรัฐอเมริกาปี 2020
NIST AI RMF ให้ข้อมูลอ้างอิงพื้นฐานที่เป็นประโยชน์สำหรับองค์กรใดๆ (รวมถึงที่อยู่นอกสหรัฐอเมริกา) เพื่อจัดการความเสี่ยงที่เกี่ยวข้องกับ AI
AI RMF เป็นความสมัครใจ และมีวัตถุประสงค์เพื่อปรับปรุงความสามารถในการรวม ความน่าเชื่อถือ ในการออกแบบ การพัฒนา การใช้งาน และการประเมินผลิตภัณฑ์ บริการ AI และระบบ. AI RMF ได้รับการพัฒนาผ่านกระบวนการทำงานร่วมกันระหว่าง NIST ภาคอุตสาหกรรม สถาบันอื่นๆ และสาธารณชน
AI RMF แบ่งออกเป็นสองส่วน โดย ส่วนที่ 1 มุ่งเน้นไปที่วิธีที่องค์กรต่างๆ สามารถกำหนดกรอบความเสี่ยงที่เกี่ยวข้องกับ AI จากนั้นจึงเน้นย้ำถึงวิธีการวิเคราะห์ความเสี่ยงและความน่าเชื่อถือของ AI และลักษณะของระบบ AI ที่เชื่อถือได้ เช่น ความถูกต้อง ความน่าเชื่อถือ ความปลอดภัย การรักษาความปลอดภัย ความยืดหยุ่น ความรับผิดชอบ ความโปร่งใส 'ความสามารถในการอธิบาย' การควบคุมความเป็นส่วนตัว ความเป็นธรรม และการจัดการอคติ
ส่วนที่ 2 ของ AI RMF อธิบายหน้าที่เฉพาะสี่ประการที่จำเป็นในการช่วยองค์กรจัดการกับความเสี่ยงของระบบ AI ในทางปฏิบัติ ฟังก์ชันเหล่านี้ประกอบด้วย (1) ควบคุม (2) แผนที่ (3) วัด และ (4) จัดการ ทั้งหมด พร้อมหมวดหมู่เพิ่มเติมและหมวดหมู่ย่อย ฟังก์ชัน GOVERN นำไปใช้กับทุกขั้นตอนของกระบวนการและขั้นตอนการจัดการความเสี่ยงของ AI ด้วยฟังก์ชัน MAP, MEASURE และ MANAGE ที่ถูกนำไปใช้ภายในบริบทและขั้นตอนเฉพาะของวงจรชีวิต AI
NIST ได้พัฒนาแหล่งข้อมูลเสริม ได้แก่ NIST AI RMF Playbook , AI วิดีโออธิบาย RMF ซึ่งเป็น แผนงาน AI RMF และ ทางม้าลาย AI RMF
ในเดือนมีนาคม 2023 NIST ได้เปิดตัวศูนย์ทรัพยากร AI ที่น่าเชื่อถือและมีความรับผิดชอบ ซึ่งมีวัตถุประสงค์เพื่อสนับสนุนองค์กรที่สอดคล้องกับ AI RMF
องค์กร ที่กำลังพัฒนาและ/หรือปรับใช้ AI อาจพบว่า NIST AI RMF และทรัพยากรเสริมมีประโยชน์ในการจัดการความเสี่ยงด้าน AI อย่างต่อเนื่อง
ดูลิงก์ที่เป็นประโยชน์:
NIST AI RMF - https://nvlpubs .nist.gov/nistpubs/ai/NIST.AI.100-1.pdf
คู่มือ NIST - https://airc.nist.gov /AI_RMF_Knowledge_Base/Playbook
วิดีโออธิบาย NIST - เป้าหมาย https://www.nist.gov/video/introduction-nist-ai-risk-management-framework-ai-rmf-10-explainer-video
แผนงานของ NIST - https://www.nist.gov/itl/ai-risk-management-framework/roadmap-nist-artificial-intelligence-risk-management-framework-ai< /p>
งานทางม้าลายของ NIST AI - https://www.nist.gov/itl/ai-risk-management-framework/crosswalks-nist-artificial-intelligence-risk-management-framework
ศูนย์ NIST AI - https://airc.nist.gov/Home
Comments