ผู้นำ AI ลงนามในแถลงการณ์เพื่อรับทราบถึงอันตรายของ AI อย่างเปิดเผย

ผู้นำอุตสาหกรรมและนักวิจัยระบุว่าปัญญาประดิษฐ์สามารถทำให้มนุษย์สูญพันธุ์ได้

Sam Altman ให้การเป็นพยานเกี่ยวกับ AI

ในเดือนมีนาคม จดหมายเปิดผนึกที่นำโดยผู้เชี่ยวชาญในอุตสาหกรรมเทคโนโลยีพยายามหยุดการพัฒนาโมเดล AI ขั้นสูง ด้วยความเกรงกลัวว่าเทคโนโลยีนี้อาจก่อให้เกิด “ความเสี่ยงอย่างร้ายแรงต่อสังคมและมนุษยชาติ”

ในสัปดาห์นี้ คำแถลงที่ลงนามโดย Sam Altman ซีอีโอของ OpenAI ซึ่งเป็น "เจ้าพ่อ" ของ AI Geoffrey Hinton และคนอื่นๆ พยายามที่จะลดความเสี่ยงที่ AI ก่อให้เกิดการผลักดันมนุษยชาติให้สูญพันธุ์ คำนำของแถลงการณ์สนับสนุนให้ผู้นำอุตสาหกรรมหารือเกี่ยวกับภัยคุกคามที่รุนแรงที่สุดของ AI อย่างเปิดเผย

ตามคำแถลง ความเสี่ยงของ AI ต่อมนุษยชาตินั้นรุนแรงมากจนเทียบได้กับโรคระบาดทั่วโลกและสงครามนิวเคลียร์ ผู้ลงนามอื่นๆ ได้แก่ นักวิจัยจาก Google DeepMind, Kevin Scott ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Microsoft และ Bruce Schneier ผู้บุกเบิกความปลอดภัยทางอินเทอร์เน็ต

โมเดลภาษาขนาดใหญ่ (LLM) ในปัจจุบันซึ่ง ChatGPT ของ Altman ได้รับความนิยมยังไม่สามารถบรรลุปัญญาประดิษฐ์ทั่วไป (AGI) ได้ อย่างไรก็ตาม ผู้นำในอุตสาหกรรมมีความกังวลเกี่ยวกับ LLM ที่ก้าวหน้าไปถึงจุดนั้น AGI เป็นแนวคิดที่กำหนดสิ่งมีชีวิตที่มีความฉลาดเทียมซึ่งสามารถเทียบเท่าหรือเหนือกว่าสติปัญญาของมนุษย์ได้

AGI คือความสำเร็จที่ OpenAI, Google DeepMind และ Anthropic หวังว่าจะบรรลุสักวันหนึ่ง แต่แต่ละบริษัทตระหนักดีว่าอาจมีผลกระทบที่สำคัญหากเทคโนโลยีของตนบรรลุ AGI

อัลท์แมนกล่าวในคำให้การต่อหน้าสภาคองเกรสเมื่อต้นเดือนที่ผ่านมาว่า ความกลัวที่ยิ่งใหญ่ที่สุดของเขาคือ AI "ก่อให้เกิดอันตรายร้ายแรงต่อโลก" และอันตรายนี้อาจเกิดขึ้นได้หลายวิธี

เมื่อไม่กี่สัปดาห์ก่อน Hinton ได้ลาออกจากตำแหน่งที่เขาทำงานเกี่ยวกับโครงข่ายประสาทเทียมที่ Google อย่างกะทันหัน โดยบอกกับ CNN ว่าเขา "เป็นเพียงนักวิทยาศาสตร์ที่จู่ๆ ก็ตระหนักได้ว่าสิ่งเหล่านี้กำลังฉลาดกว่าเรา"