ความเสี่ยงด้าน AI มีอยู่ทุกหนทุกแห่ง และตอนนี้ MIT กำลังเพิ่มความเสี่ยงเหล่านี้ทั้งหมดลงในฐานข้อมูลเดียว

นักวิจัยสร้าง AI Risk Repository เพื่อรวบรวมข้อมูล หนึ่งในการค้นพบของพวกเขา? ข้อมูลที่ผิดถือเป็นภัยคุกคาม AI ที่ได้รับการจัดการน้อยที่สุด

ขณะนี้ ความเสี่ยงของปัญญาประดิษฐ์ (AI) ในแอปพลิเคชันได้รับการบันทึกไว้อย่างดี แต่เข้าถึงได้ยากในที่เดียวเมื่อทำการตัดสินใจด้านกฎระเบียบ นโยบาย หรือทางธุรกิจ ห้องปฏิบัติการของ MIT มีเป้าหมายที่จะแก้ไขปัญหาดังกล่าว

เมื่อวันพุธที่ผ่านมา ห้องปฏิบัติการวิทยาการคอมพิวเตอร์และปัญญาประดิษฐ์ (CSAIL) ของ MIT ได้เปิดตัว AI Risk Repository ซึ่งเป็นฐานข้อมูลความเสี่ยงด้าน AI ที่ได้รับการบันทึกไว้มากกว่า 700 รายการ จากการเปิดเผยของ CSAIL ฐานข้อมูลดังกล่าวเป็นฐานข้อมูลประเภทแรกและจะได้รับการอัปเดตอย่างสม่ำเสมอเพื่อให้แน่ใจว่าจะสามารถใช้เป็นทรัพยากรที่ใช้งานอยู่ได้

โครงการนี้ได้รับแจ้งจากความกังวลว่าการนำ AI ไปใช้ทั่วโลกนั้นกำลังเกินกว่าที่ผู้คนและองค์กรจะเข้าใจความเสี่ยงในการดำเนินงานได้ดีเพียงใด ข้อมูลการสำรวจสำมะโนประชากรบ่งชี้ว่าการใช้งาน AI ในอุตสาหกรรมของสหรัฐฯ เพิ่มขึ้นจาก 3.7% เป็น 5.45% ซึ่งเพิ่มขึ้น 47% ระหว่างเดือนกันยายน 2023 ถึงกุมภาพันธ์ 2024 นักวิจัยจาก CSAIL และ FutureTech Lab ของ MIT พบว่า "แม้แต่กรอบงานส่วนบุคคลที่ละเอียดที่สุดก็ยังมองข้ามประมาณ 30 % ของความเสี่ยงที่ระบุในกรอบงานที่ได้รับการตรวจสอบทั้งหมด" ระบุในเผยแพร่

วรรณกรรมที่กระจัดกระจายเกี่ยวกับความเสี่ยงของ AI อาจทำให้ผู้กำหนดนโยบาย ผู้ประเมินความเสี่ยง และคนอื่นๆ เข้าใจภาพรวมของปัญหาที่อยู่ตรงหน้าได้ยาก “เป็นการยากที่จะค้นหาการศึกษาเฉพาะเจาะจงเกี่ยวกับความเสี่ยงในบางโดเมนเฉพาะที่ใช้ AI เช่น อาวุธ และระบบสนับสนุนการตัดสินใจทางทหาร” Taniel Yusef ซึ่งเป็นบริษัทในเครือด้านการวิจัยของ Cambridge ที่ไม่เกี่ยวข้องกับโครงการกล่าว "หากไม่มีการอ้างอิงถึงการศึกษาเหล่านี้ อาจเป็นเรื่องยากที่จะพูดถึงแง่มุมทางเทคนิคของความเสี่ยงด้าน AI กับผู้เชี่ยวชาญที่ไม่ใช่ด้านเทคนิค พื้นที่เก็บข้อมูลนี้ช่วยให้เราทำเช่นนั้นได้"

หากไม่มีฐานข้อมูล ความเสี่ยงบางอย่างอาจลอยอยู่ใต้เรดาร์และไม่ได้รับการพิจารณาอย่างเพียงพอ ทีมงานอธิบายในข่าวประชาสัมพันธ์

"เนื่องจากเอกสารเกี่ยวกับความเสี่ยงของ AI กระจายอยู่ในวารสารที่ผ่านการตรวจสอบโดยผู้รู้เสมอกัน การพิมพ์ล่วงหน้า และรายงานอุตสาหกรรม และค่อนข้างหลากหลาย ฉันกังวลว่าผู้มีอำนาจตัดสินใจอาจปรึกษาภาพรวมที่ไม่สมบูรณ์โดยไม่รู้ตัว พลาดข้อกังวลที่สำคัญ และพัฒนาจุดบอดโดยรวม" ดร. ปีเตอร์ Slattery หัวหน้าโครงการและ postdoc FutureTech Lab ที่เข้ามากล่าวในข่าวประชาสัมพันธ์

เพื่อแก้ไขปัญหานี้ นักวิจัยที่ MIT ได้ทำงานร่วมกับเพื่อนร่วมงานจากสถาบันอื่น รวมถึง University of Queensland, Future of Life Institute, KU Leuven และ Harmony Intelligence เพื่อสร้างฐานข้อมูล พื้นที่เก็บข้อมูลมีจุดมุ่งหมายเพื่อให้ "ภาพรวมที่เข้าถึงได้ของภูมิทัศน์ความเสี่ยงของ AI" ตามเว็บไซต์ และทำหน้าที่เป็นกรอบอ้างอิงสากลที่ทุกคนตั้งแต่นักวิจัยและนักพัฒนาไปจนถึงธุรกิจและผู้กำหนดนโยบายสามารถใช้ได้

ในการสร้างกรอบดังกล่าว นักวิจัยได้พัฒนากรอบการจำแนกความเสี่ยง 43 กรอบโดยการทบทวนบันทึกทางวิชาการและฐานข้อมูล และพูดคุยกับผู้เชี่ยวชาญหลายคน หลังจากกลั่นกรองความเสี่ยงมากกว่า 700 รายการจากกรอบการทำงานทั้ง 43 รายการแล้ว นักวิจัยได้จัดหมวดหมู่แต่ละรายการตามสาเหตุ (เมื่อใดหรือเหตุใดจึงเกิดขึ้น) โดเมน และโดเมนย่อย (เช่น "ข้อมูลที่ผิด" และ "ข้อมูลที่เป็นเท็จหรือทำให้เข้าใจผิด" ตามลำดับ)

ความเสี่ยงมีตั้งแต่การเลือกปฏิบัติและการบิดเบือนความจริงไปจนถึงการฉ้อโกง การบิดเบือนเป้าหมาย และการใช้งานที่ไม่ปลอดภัย “ขอบเขตความเสี่ยงที่ได้รับการกล่าวถึงบ่อยที่สุด” เอกสารเผยแพร่อธิบาย “รวมถึง 'ความปลอดภัยของระบบ AI ความล้มเหลว และข้อจำกัด' (76% ของเอกสาร) 'อันตรายทางเศรษฐกิจและสังคมและสิ่งแวดล้อม' (73%) 'การเลือกปฏิบัติและความเป็นพิษ' (71 %); 'ความเป็นส่วนตัวและความปลอดภัย' (68%); และ 'นักแสดงที่เป็นอันตรายและการใช้งานในทางที่ผิด' (68%)

นักวิจัยพบว่าปฏิสัมพันธ์ระหว่างมนุษย์กับคอมพิวเตอร์และข้อมูลที่ไม่ถูกต้องเป็นข้อกังวลที่ได้รับการจัดการน้อยที่สุดในกรอบความเสี่ยง ห้าสิบเอ็ดเปอร์เซ็นต์ของความเสี่ยงที่วิเคราะห์นั้นมาจากระบบ AI แทนที่จะเป็นมนุษย์ซึ่งรับผิดชอบ 34% และ 65% ของความเสี่ยงเกิดขึ้นหลังจากใช้งาน AI แทนที่จะเป็นในระหว่างการพัฒนา

หัวข้อต่างๆ เช่น การเลือกปฏิบัติ การละเมิดความเป็นส่วนตัว และการขาดความสามารถ เป็นปัญหาที่มีการพูดคุยกันมากที่สุด ซึ่งปรากฏในเอกสารมากกว่า 50% ที่นักวิจัยตรวจสอบ มีการกล่าวถึงความกังวลที่ว่า AI สร้างความเสียหายต่อระบบนิเวศข้อมูลของเราน้อยกว่ามาก โดยมีเพียง 12% ของเอกสารเท่านั้น

MIT หวังว่า Repository จะช่วยให้ผู้มีอำนาจตัดสินใจนำทางและจัดการกับความเสี่ยงที่เกิดจาก AI ได้ดีขึ้น โดยเฉพาะอย่างยิ่งกับความคิดริเริ่มด้านการกำกับดูแล AI มากมายที่เกิดขึ้นอย่างรวดเร็วทั่วโลก

Repository "เป็นส่วนหนึ่งของความพยายามที่ใหญ่กว่าในการทำความเข้าใจวิธีที่เราตอบสนองต่อความเสี่ยงด้าน AI และเพื่อระบุว่ามีช่องว่างในแนวทางปัจจุบันของเราหรือไม่" ดร. นีล ทอมป์สัน นักวิจัยและหัวหน้า FutureTech Lab กล่าว "เรากำลังเริ่มต้นด้วยรายการตรวจสอบที่ครอบคลุม เพื่อช่วยให้เราเข้าใจขอบเขตของความเสี่ยงที่อาจเกิดขึ้น เราวางแผนที่จะใช้สิ่งนี้เพื่อระบุข้อบกพร่องในการตอบสนองขององค์กร ตัวอย่างเช่น หากทุกคนมุ่งเน้นไปที่ความเสี่ยงประเภทหนึ่งในขณะที่มองข้ามความเสี่ยงประเภทอื่นที่มีความสำคัญคล้ายคลึงกัน นั่นก็คือ สิ่งที่เราควรจะสังเกตและแก้ไข"

ถัดไป นักวิจัยวางแผนที่จะใช้ Repository เพื่อวิเคราะห์เอกสารสาธารณะจากบริษัท AI และนักพัฒนา เพื่อกำหนดและเปรียบเทียบแนวทางความเสี่ยงตามภาคส่วน

AI Risk Repository พร้อมให้ดาวน์โหลดและคัดลอกได้ฟรี และผู้ใช้สามารถส่งข้อเสนอแนะและข้อเสนอแนะให้กับทีมได้ที่นี่