Anthropic เตือนถึงหายนะของ AI หากรัฐบาลไม่ควบคุมภายใน 18 เดือน

'หน้าต่างสำหรับการป้องกันความเสี่ยงเชิงรุกกำลังปิดลงอย่างรวดเร็ว' บริษัทกล่าว นี่คือเหตุผล

อีกเพียงไม่กี่วันก็จะถึงการเลือกตั้งประธานาธิบดีสหรัฐฯ บริษัท AI Anthropic กำลังสนับสนุนกฎระเบียบของตนเอง ก่อนที่ทุกอย่างจะสายเกินไป

เมื่อวันพฤหัสบดี บริษัทซึ่งโดดเด่นในอุตสาหกรรมในด้านความปลอดภัย ได้ออกคำแนะนำสำหรับรัฐบาลต่างๆ ในการใช้ "การควบคุมแบบกำหนดเป้าหมาย" ควบคู่ไปกับข้อมูลที่น่ากังวลเกี่ยวกับการเพิ่มขึ้นของสิ่งที่เรียกว่าความเสี่ยงด้าน AI "หายนะ"

ความเสี่ยง

ในบล็อกโพสต์ Anthropic ตั้งข้อสังเกตว่าโมเดล AI มีความก้าวหน้าเพียงใดในการเขียนโค้ดและความผิดทางไซเบอร์ในเวลาเพียงหนึ่งปี "ในงานวิศวกรรมซอฟต์แวร์ SWE-bench โมเดลได้รับการปรับปรุงจากความสามารถในการแก้ปัญหา 1.96% ของชุดทดสอบของปัญหาการเข้ารหัสในโลกแห่งความเป็นจริง (Claude 2, ตุลาคม 2023) เป็น 13.5% (Devin, มีนาคม 2024) เป็น 49% ( Claude 3.5 Sonnet, ตุลาคม 2024)” บริษัทเขียน "ภายในทีม Frontier Red ของเราพบว่าโมเดลปัจจุบันสามารถช่วยในงานที่เกี่ยวข้องกับการละเมิดทางไซเบอร์ได้หลากหลายแล้ว และเราคาดหวังว่าโมเดลรุ่นต่อไป ซึ่งจะสามารถวางแผนงานที่ยาวนานและมีหลายขั้นตอนได้ -- จะมีประสิทธิภาพมากยิ่งขึ้น"

นอกจากนี้ โพสต์ในบล็อกยังตั้งข้อสังเกตว่าระบบ AI ได้ปรับปรุงความเข้าใจทางวิทยาศาสตร์เกือบ 18% ตั้งแต่เดือนมิถุนายนถึงกันยายนของปีนี้เพียงปีเดียว ตามการทดสอบมาตรฐาน GPQA OpenAI o1 ทำคะแนนได้ 77.3% ในส่วนที่ยากที่สุดของการทดสอบ ผู้เชี่ยวชาญที่เป็นมนุษย์ได้คะแนน 81.2%

บริษัทยังได้อ้างถึงการทดสอบความเสี่ยงของสถาบันความปลอดภัย AI ของสหราชอาณาจักรในแบบจำลองต่างๆ สำหรับการใช้สารเคมี ชีวภาพ รังสีวิทยา และนิวเคลียร์ (CBRN) ในทางที่ผิด ซึ่งพบว่า "แบบจำลองต่างๆ สามารถใช้เพื่อรับความรู้ระดับผู้เชี่ยวชาญเกี่ยวกับชีววิทยาและเคมีได้" นอกจากนี้ยังพบว่าการตอบคำถามทางวิทยาศาสตร์ของแบบจำลองหลายแบบ "เทียบได้กับการตอบคำถามของผู้เชี่ยวชาญระดับปริญญาเอก"

ข้อมูลนี้บดบังการคาดการณ์ของ Anthropic ในปี 2023 ว่าความเสี่ยงทางไซเบอร์และ CBRN จะเกิดขึ้นในอีกสองถึงสามปี “จากความคืบหน้าที่อธิบายไว้ข้างต้น เราเชื่อว่าตอนนี้เราเข้าใกล้ความเสี่ยงดังกล่าวมากขึ้นแล้ว” บล็อกกล่าว

แนวปฏิบัติสำหรับภาครัฐ

"กฎระเบียบที่รอบคอบและมีเป้าหมายแคบสามารถช่วยให้เราได้รับสิ่งที่ดีที่สุดจากทั้งสองโลก: ตระหนักถึงประโยชน์ของ AI ในขณะที่ลดความเสี่ยง" บล็อกอธิบาย “การลากเท้าของเราอาจนำไปสู่สิ่งที่เลวร้ายที่สุดของทั้งสองโลก: การออกแบบที่ไม่ดี กฎระเบียบที่กระตุกเข่าซึ่งขัดขวางความก้าวหน้าในขณะเดียวกันก็ไม่มีประสิทธิภาพเช่นกัน”

Anthropic แนะนำแนวทางปฏิบัติของรัฐบาลในการลดความเสี่ยงโดยไม่ขัดขวางนวัตกรรมทางวิทยาศาสตร์และการพาณิชย์ โดยใช้นโยบาย Responsible Scaling Policy (RSP) ของตนเองเป็น "ต้นแบบ" แต่ไม่สามารถทดแทนได้ Anthropic ยอมรับว่าอาจเป็นเรื่องยากที่จะคาดการณ์ได้ว่าเมื่อใดควรใช้ Guardrails โดยอธิบายว่า RSP ของตนเป็นกรอบการบริหารความเสี่ยงตามสัดส่วน ซึ่งจะปรับตามความสามารถที่เพิ่มขึ้นของ AI ผ่านการทดสอบตามปกติ

“โครงสร้าง 'ถ้า-แล้ว' จำเป็นต้องใช้มาตรการด้านความปลอดภัย แต่เมื่อโมเดลมีความสามารถเพียงพอที่จะรับประกันได้" Anthropic อธิบาย

บริษัทระบุองค์ประกอบสามประการสำหรับการควบคุมดูแล AI ที่ประสบความสำเร็จ ได้แก่ ความโปร่งใส การสร้างแรงจูงใจในการรักษาความปลอดภัย และความเรียบง่ายและการมุ่งเน้น

ปัจจุบัน ประชาชนไม่สามารถตรวจสอบได้ว่าบริษัท AI ปฏิบัติตามหลักเกณฑ์ด้านความปลอดภัยของตนเองหรือไม่ เพื่อสร้างบันทึกที่ดีขึ้น Anthropic กล่าวว่า รัฐบาลควรกำหนดให้บริษัทต่างๆ "มีและเผยแพร่นโยบายที่คล้ายกับ RSP" โดยกำหนดว่ามาตรการป้องกันใดจะถูกเรียกใช้เมื่อใด และเผยแพร่การประเมินความเสี่ยงสำหรับระบบแต่ละรุ่น แน่นอนว่า รัฐบาลจะต้องมีวิธีการตรวจสอบด้วยว่าคำแถลงของบริษัทเหล่านั้นทั้งหมดเป็นจริง

มานุษยวิทยายังแนะนำให้รัฐบาลต่างๆ จูงใจให้มีแนวทางปฏิบัติด้านความปลอดภัยที่มีคุณภาพสูงขึ้น “หน่วยงานกำกับดูแลสามารถระบุรูปแบบภัยคุกคามที่ RSP ต้องจัดการ ภายใต้มาตรฐานความสมเหตุสมผลบางประการ ในขณะที่ปล่อยให้รายละเอียดเป็นหน้าที่ของบริษัทต่างๆ หรือพวกเขาอาจระบุมาตรฐานที่ RSP ต้องปฏิบัติตาม” บริษัทแนะนำ

แม้ว่าสิ่งจูงใจเหล่านี้จะเป็นทางอ้อม แต่ Anthropic ขอเรียกร้องให้รัฐบาลรักษาความยืดหยุ่นไว้ “เป็นสิ่งสำคัญสำหรับกระบวนการกำกับดูแลในการเรียนรู้จากแนวทางปฏิบัติที่ดีที่สุดในขณะที่มีการพัฒนา แทนที่จะเป็นแบบคงที่” บล็อกกล่าว แม้ว่าอาจเป็นเรื่องยากสำหรับระบบราชการที่จะบรรลุผล

อาจดำเนินไปโดยไม่บอกกล่าว แต่ Anthropic ยังเน้นย้ำว่ากฎหมายควรเข้าใจและนำไปปฏิบัติได้ง่าย บริษัทได้อธิบายถึงกฎระเบียบในอุดมคติว่า "การผ่าตัด" โดยสนับสนุนให้ "เรียบง่ายและมุ่งเน้น" ในคำแนะนำ โดยสนับสนุนให้รัฐบาลไม่สร้าง "ภาระ" ที่ไม่จำเป็นสำหรับบริษัท AI ที่อาจรบกวนสมาธิ

“หนึ่งในสิ่งที่เลวร้ายที่สุดที่อาจเกิดขึ้นกับสาเหตุของการป้องกันความเสี่ยงภัยพิบัติคือความเชื่อมโยงระหว่างกฎระเบียบที่จำเป็นในการป้องกันความเสี่ยงกับกฎที่เป็นภาระหรือไร้เหตุผล” บล็อกระบุ

คำแนะนำด้านอุตสาหกรรม

Anthropic ยังกระตุ้นให้บริษัท AI อื่นๆ ใช้ RSP ที่สนับสนุนกฎระเบียบ เอกสารดังกล่าวชี้ให้เห็นถึงความสำคัญของการรักษาความปลอดภัยและความปลอดภัยของคอมพิวเตอร์ไว้ล่วงหน้า ไม่ใช่ หลังจาก ความเสี่ยงที่ก่อให้เกิดความเสียหาย และความสำคัญอย่างยิ่งที่ทำให้การจ้างงานบรรลุเป้าหมายนั้น

"การดำเนินการอย่างถูกต้อง RSP ขับเคลื่อนโครงสร้างองค์กรและลำดับความสำคัญ ซึ่งกลายเป็นส่วนสำคัญของแผนงานผลิตภัณฑ์ แทนที่จะเป็นเพียงนโยบายบนกระดาษ" บล็อกระบุ Anthropic กล่าวว่า RSP ยังกระตุ้นให้นักพัฒนาสำรวจและทบทวนโมเดลภัยคุกคามอีกครั้ง แม้ว่าจะเป็นนามธรรมก็ตาม

แล้วจะเป็นอย่างไรต่อไป?

“เป็นเรื่องสำคัญในปีหน้าที่ผู้กำหนดนโยบาย อุตสาหกรรม AI ผู้สนับสนุนด้านความปลอดภัย ภาคประชาสังคม และผู้ร่างกฎหมายจะทำงานร่วมกันเพื่อพัฒนากรอบการกำกับดูแลที่มีประสิทธิภาพซึ่งตรงตามเงื่อนไขข้างต้น” Anthropic กล่าวสรุป “ในสหรัฐอเมริกา สิ่งนี้จะเกิดขึ้นในระดับสหพันธรัฐ แม้ว่าจะมีความเร่งด่วนอาจเรียกร้องให้แต่ละรัฐพัฒนาขึ้นก็ตาม”