การนำเครื่องมือ AI ทั่วไปมาใช้เป็นจำนวนมากกำลังทำลายปัจจัยที่สำคัญอย่างหนึ่ง MIT กล่าว

ความก้าวหน้าอย่างรวดเร็วของ AI กำลังสร้าง 'AI เงา' ซึ่งทำให้การใช้ AI อย่างมีความรับผิดชอบทำได้ยากขึ้น การศึกษาจาก MIT Sloan Management Review และ BCG เตือน

แพลตฟอร์มและเครื่องมือปัญญาประดิษฐ์ (AI) ใหม่เกิดขึ้นทุกวันเพื่อช่วยเหลือนักพัฒนา นักวิทยาศาสตร์ข้อมูล และนักวิเคราะห์ธุรกิจ อย่างไรก็ตาม การเติบโตอย่างรวดเร็วของเทคโนโลยีเกิดใหม่นี้ยังเพิ่มความซับซ้อนของกลุ่มดาว AI เกินกว่าความสามารถในการรับผิดชอบและความรับผิดชอบในระบบ AI

นั่นคือข้อสรุปจากการสำรวจล่าสุดของผู้บริหาร 1,240 คนที่เผยแพร่โดย MIT Sloan Management Review และ Boston Consulting Group (MIT SMR และ BCG) ซึ่งพิจารณาความคืบหน้าของโครงการริเริ่ม AI ที่มีความรับผิดชอบ และการนำเครื่องมือ AI ทั้งที่สร้างขึ้นภายในและที่มาจากภายนอกมาใช้ - สิ่งที่นักวิจัยเรียกว่า "Shadow AI"

คำมั่นสัญญาของ AI มาพร้อมกับผลที่ตามมา แนะนำผู้เขียนการศึกษา Elizabeth Renieris (สถาบันจริยธรรมใน AI ของ Oxford), David Kiron (MIT SMR) และ Steven Mills (BCG) กล่าวว่า "ตัวอย่างเช่น generative AI ได้รับการพิสูจน์แล้วว่าเทอะทะและคาดเดาไม่ได้ ความเสี่ยงต่อองค์กรที่ไม่ได้เตรียมพร้อมสำหรับกรณีการใช้งานที่หลากหลาย"

บริษัทหลายแห่ง "ไม่ทันระวังการแพร่กระจายของการใช้ AI เงาทั่วทั้งองค์กร" Renieris และผู้เขียนร่วมของเธอตั้งข้อสังเกต ยิ่งไปกว่านั้น ความก้าวหน้าอย่างรวดเร็วของ AI "ทำให้การใช้ AI อย่างมีความรับผิดชอบทำได้ยากขึ้น และกำลังกดดันให้โปรแกรม AI ที่รับผิดชอบต้องตามทัน"

พวกเขาเตือนถึงความเสี่ยงที่มาจาก Shadow AI ที่เพิ่มมากขึ้นเรื่อยๆ เช่นกัน ตัวอย่างเช่น บริษัทต่างๆ ต้องพึ่งพาเครื่องมือ AI ของบริษัทอื่นที่มีเพิ่มมากขึ้น ควบคู่ไปกับการนำ AI ทั่วไปมาใช้อย่างรวดเร็ว - อัลกอริธึม (เช่น ChatGPT, Dall-E 2 และ Midjourney) ที่ใช้ข้อมูลการฝึกอบรมเพื่อสร้างความเป็นจริงหรือดูเหมือน ข้อความ รูปภาพ หรือเสียงที่เป็นข้อเท็จจริง - ทำให้พวกเขาเผชิญกับความเสี่ยงทางการค้า กฎหมาย และชื่อเสียงใหม่ๆ ที่ยากต่อการติดตาม

นักวิจัยกล่าวถึงความสำคัญของ AI ที่มีความรับผิดชอบ ซึ่งพวกเขากำหนดให้เป็น "กรอบการทำงานที่มีหลักการ นโยบาย เครื่องมือ และกระบวนการต่างๆ เพื่อให้มั่นใจว่าระบบ AI ได้รับการพัฒนาและดำเนินการเพื่อให้บริการที่ดีต่อบุคคลและสังคม ในขณะที่ยังคงบรรลุผลการเปลี่ยนแปลงทางธุรกิจ ”

ความยากลำบากอีกประการหนึ่งเกิดจากการที่บริษัทหลายแห่ง "ดูเหมือนจะลดขนาดทรัพยากรภายในที่อุทิศให้กับ AI ที่รับผิดชอบ ซึ่งเป็นส่วนหนึ่งของแนวโน้มที่กว้างขึ้นในการเลิกจ้างในอุตสาหกรรม" นักวิจัยเตือน "การลดการลงทุนด้าน AI อย่างมีความรับผิดชอบเหล่านี้กำลังเกิดขึ้นในเวลาที่มีความจำเป็นมากที่สุด"

ตัวอย่างเช่น การใช้แชทบอท ChatGPT ของพนักงานอย่างแพร่หลายทำให้หลายองค์กรเกิดความประหลาดใจ และอาจมีผลกระทบด้านความปลอดภัย นักวิจัยกล่าวว่ากรอบการทำงาน AI ที่มีความรับผิดชอบไม่ได้ถูกเขียนขึ้นเพื่อ "จัดการกับความเสี่ยงที่เกิดขึ้นอย่างฉับพลันและไม่อาจจินตนาการได้ซึ่งเครื่องมือ AI ทั่วไปกำลังนำเสนอ"

การวิจัยชี้ให้เห็นว่า 78% ขององค์กรรายงานการเข้าถึง ซื้อ ออกใบอนุญาต หรือการใช้เครื่องมือ AI ของบุคคลที่สาม รวมถึง API เชิงพาณิชย์ โมเดลที่ได้รับการฝึกอบรม และข้อมูล มากกว่าครึ่ง (53%) พึ่งพาเครื่องมือ AI ของบุคคลที่สามโดยเฉพาะ และไม่มีเทคโนโลยี AI ที่ออกแบบหรือพัฒนาภายในเป็นของตนเอง

โปรแกรม AI ที่มีความรับผิดชอบ "ควรครอบคลุมทั้งเครื่องมือ AI ที่สร้างขึ้นภายในและของบุคคลที่สาม" Renieris และผู้เขียนร่วมของเธอกระตุ้น “ต้องใช้หลักการทางจริยธรรมเดียวกัน ไม่ว่าระบบ AI จะมาจากไหนก็ตาม ท้ายที่สุดแล้ว หากมีข้อผิดพลาดเกิดขึ้น บุคคลที่ได้รับผลกระทบด้านลบก็ไม่สำคัญหากมีการสร้างหรือซื้อเครื่องมือดังกล่าว”

ผู้เขียนร่วมเตือนว่าในขณะที่ "ไม่มีกระสุนเงินสำหรับการลดความเสี่ยง AI ของบุคคลที่สามหรือความเสี่ยง AI ประเภทใด ๆ สำหรับเรื่องนั้น" พวกเขาเรียกร้องให้มีแนวทางแบบหลายทางเพื่อให้แน่ใจว่า AI ที่มีความรับผิดชอบในสภาพแวดล้อมที่เปิดกว้างในปัจจุบัน

แนวทางดังกล่าวอาจรวมถึงสิ่งต่อไปนี้:

• การประเมินแนวทางปฏิบัติ AI ที่มีความรับผิดชอบของผู้ขาย
• ภาษาสัญญาที่บังคับให้ปฏิบัติตามหลักการ AI ที่มีความรับผิดชอบ
• การรับรองล่วงหน้าและการตรวจสอบผู้ขาย (ถ้ามี)
• การตรวจสอบระดับผลิตภัณฑ์ภายใน (เมื่อมีการรวมเครื่องมือของบุคคลที่สามเข้ากับผลิตภัณฑ์หรือบริการ)
• การปฏิบัติตามข้อกำหนดด้านกฎระเบียบที่เกี่ยวข้องหรือมาตรฐานอุตสาหกรรม
• การรวมชุดนโยบายและขั้นตอนที่ครอบคลุม เช่น แนวทางการพัฒนา AI อย่างมีจริยธรรม กรอบการประเมินความเสี่ยง และโปรโตคอลการติดตามและตรวจสอบ

ผู้เขียนร่วมเตือนว่ากฎหมายและคำสั่งของรัฐบาลอาจทำให้การกระทำดังกล่าวมีความจำเป็นเมื่อมีการแนะนำระบบ AI