ผู้แทนจากคณะมนตรีความมั่นคงแห่งสหประชาชาติเรียกร้องให้มีการควบคุม AI เพื่อกลบเกลื่อนภัยคุกคามระดับโลกที่อาจเกิดขึ้น

สหประชาชาติสนับสนุนการเรียกร้องให้มีหน่วยงานสหประชาชาติที่แยกจากกันเพื่ออำนวยความสะดวกในความพยายามร่วมกันในการควบคุมปัญญาประดิษฐ์

จำเป็นต้องมีความพยายามร่วมกันทั่วโลกเพื่อควบคุมปัญญาประดิษฐ์ (AI) ซึ่งจำเป็นต้องมีความเห็นพ้องต้องกันเรื่องรั้วกั้นอย่างเร่งด่วน

ท่ามกลางการเรียกร้องให้มีมาตรการและการริเริ่มระดับโลกที่แตกต่างกัน การกำกับดูแลของ AI จะมีความซับซ้อนและต้องใช้แนวทางที่เป็นสากล António Guterres เลขาธิการสหประชาชาติ (UN) กล่าว แบบจำลอง AI นั้นมีอยู่แล้วในวงกว้างต่อสาธารณะ และแตกต่างจากวัสดุนิวเคลียร์และสารชีวภาพตรงที่เครื่องมือสามารถเคลื่อนย้ายได้โดยไม่ทิ้งร่องรอย Guterres กล่าวในคำปราศรัยของเขาต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ

สมาชิกของสภาได้รวมตัวกันในสัปดาห์นี้เพื่อการประชุมอย่างเป็นทางการครั้งแรกเกี่ยวกับ AI โดยมีวิทยากร ได้แก่ Jack Clark ผู้ร่วมก่อตั้ง Anthropic และสถาบันระบบอัตโนมัติของ Academy of Sciences แห่งจีน Zeng Yi ซึ่งเป็นศาสตราจารย์และผู้อำนวยการศูนย์วิจัยนานาชาติสำหรับ จริยธรรมและการกำกับดูแลของ AI

Guterres กล่าวถึง Generative AI ว่าเป็น "ความก้าวหน้าขั้นรุนแรง" ในขีดความสามารถ โดยกล่าวว่าความเร็วและการเข้าถึงเทคโนโลยีที่ได้รับนั้น "ไม่เคยมีมาก่อน" โดย ChatGPT มีผู้ใช้งานถึง 100 ล้านคนในเวลาเพียงสองเดือน

แม้ว่า AI จะมีศักยภาพในการขับเคลื่อนการพัฒนาระดับโลกและตระหนักถึงสิทธิมนุษยชน รวมถึงในด้านการดูแลสุขภาพ แต่ก็สามารถผลักดันให้เกิดอคติและการเลือกปฏิบัติได้เช่นกัน เขากล่าว เทคโนโลยีนี้สามารถเปิดใช้งานการเฝ้าระวังเผด็จการเพิ่มเติมได้

เขาเรียกร้องให้สภาประเมินผลกระทบของ AI ต่อสันติภาพและความมั่นคง โดยเน้นว่ามีข้อกังวลด้านมนุษยธรรม จริยธรรม กฎหมาย และการเมืองอยู่แล้ว

“[AI] ถูกนำมาใช้มากขึ้นในการระบุรูปแบบของความรุนแรง ติดตามการหยุดยิง และอื่นๆ อีกมากมาย ซึ่งช่วยเสริมสร้างการรักษาสันติภาพ การไกล่เกลี่ย และความพยายามด้านมนุษยธรรม” กูเตอร์เรสกล่าว “แต่ผู้ที่มีเจตนาร้ายก็ใช้เครื่องมือ AI ได้เช่นกัน โมเดล AI สามารถช่วยให้ผู้คนทำร้ายตนเองและผู้อื่นได้ในวงกว้าง”

ตามที่เป็นอยู่ AI ได้ถูกนำมาใช้เพื่อโจมตีทางไซเบอร์โดยกำหนดเป้าหมายไปที่โครงสร้างพื้นฐานที่สำคัญ เขาตั้งข้อสังเกตว่าการใช้งาน AI ทางทหารและที่ไม่ใช่ทางทหารอาจนำไปสู่ผลลัพธ์ร้ายแรงต่อสันติภาพและความมั่นคงทั่วโลก

คลาร์กสนับสนุนความจำเป็นที่รัฐบาลทั่วโลกจะต้องรวมตัวกัน สร้างขีดความสามารถ และทำให้การพัฒนาระบบ AI เป็น "ความพยายามร่วมกัน" แทนที่จะเป็นหนึ่งเดียวที่นำโดยผู้เล่นเพียงไม่กี่คนที่แย่งชิงส่วนแบ่งของตลาด

"เราไม่สามารถปล่อยให้การพัฒนา AI ตกเป็นหน้าที่ของภาคเอกชนเพียงอย่างเดียว" เขากล่าว โดยสังเกตว่าการพัฒนาโมเดล AI เช่น Claude ของ Anthropic, ChatGPT ของ OpenAI และ Google Bard ได้รับการชี้นำโดยผลประโยชน์ขององค์กร เนื่องจากบริษัทภาคเอกชนสามารถเข้าถึงระบบที่ซับซ้อน ปริมาณข้อมูลขนาดใหญ่ และเงินทุน พวกเขาจึงมีแนวโน้มที่จะกำหนดแนวทางการพัฒนาระบบ AI ต่อไป เขากล่าวเสริม

ซึ่งอาจส่งผลให้เกิดทั้งประโยชน์และภัยคุกคามเนื่องจาก AI อาจถูกนำไปใช้ในทางที่ผิดและไม่สามารถคาดเดาได้ เขาอธิบายว่าเทคโนโลยีนี้สามารถนำไปใช้เพื่อทำความเข้าใจชีววิทยาได้ดีขึ้นตลอดจนสร้างอาวุธชีวภาพ

และเมื่อระบบ AI ได้รับการพัฒนาและนำไปใช้ การใช้งานใหม่ๆ อาจถูกเปิดเผยโดยนักพัฒนาที่ไม่คาดคิด ตัวระบบเองก็อาจมีพฤติกรรมที่คาดเดาไม่ได้หรือวุ่นวายเช่นกัน เขากล่าว

“ดังนั้น เราควรคิดอย่างรอบคอบเกี่ยวกับวิธีการให้แน่ใจว่านักพัฒนาระบบเหล่านี้มีความรับผิดชอบ เพื่อที่พวกเขาจะสร้างและปรับใช้ระบบที่ปลอดภัยและเชื่อถือได้ โดยไม่กระทบต่อความปลอดภัยทั่วโลก” คลาร์กกล่าว

การเกิดขึ้นของ generative AI ในขณะนี้สามารถผลักดันข้อมูลที่บิดเบือนและบ่อนทำลายข้อเท็จจริง นำมาซึ่งวิธีใหม่ๆ ในการจัดการพฤติกรรมของมนุษย์ และนำไปสู่ความไม่มีเสถียรภาพในวงกว้าง Guterres กล่าว เขากล่าวถึง Deepfakes ว่าเครื่องมือ AI ดังกล่าวอาจสร้างความเสี่ยงด้านความปลอดภัยร้ายแรงได้หากปล่อยทิ้งไว้โดยไม่ตรวจสอบ

การทำงานผิดปกติของระบบ AI ยังเป็นข้อกังวลที่สำคัญ เช่นเดียวกับปฏิสัมพันธ์ระหว่าง AI กับอาวุธนิวเคลียร์ เทคโนโลยีชีวภาพ เทคโนโลยีระบบประสาท และหุ่นยนต์ "น่าตกใจอย่างยิ่ง" เขากล่าวเสริม

“Generative AI มีศักยภาพมหาศาลทั้งในด้านความดีและความชั่ว ผู้สร้าง AI เองก็ได้เตือนแล้วว่าความเสี่ยงที่ใหญ่กว่า อาจเป็นหายนะ และดำรงอยู่รออยู่ข้างหน้า” เขากล่าว “หากปราศจากการดำเนินการเพื่อจัดการกับความเสี่ยงเหล่านี้ เราก็จะละทิ้งความรับผิดชอบของเราต่อคนรุ่นปัจจุบันและรุ่นอนาคต”

หน่วยงานใหม่ของ UN จำเป็นต้องควบคุม AI

กูเตอร์เรสกล่าวว่าเขาสนับสนุนการเรียกร้องให้มีการจัดตั้งหน่วยงานของสหประชาชาติเพื่ออำนวยความสะดวกในความพยายามร่วมกันในการควบคุม AI คล้ายกับสำนักงานพลังงานปรมาณูระหว่างประเทศและคณะกรรมการระหว่างรัฐบาลว่าด้วยการเปลี่ยนแปลงสภาพภูมิอากาศ

“แนวทางที่ดีที่สุดจะจัดการกับความท้าทายที่มีอยู่ในขณะเดียวกันก็สร้างขีดความสามารถในการติดตามและตอบสนองต่อความเสี่ยงในอนาคต” เขากล่าว “ควรมีความยืดหยุ่นและปรับเปลี่ยนได้ และคำนึงถึงคำถามด้านเทคนิค สังคม และกฎหมาย ควรบูรณาการภาคเอกชน ภาคประชาสังคม นักวิทยาศาสตร์อิสระ และทุกคนที่ขับเคลื่อนนวัตกรรม AI”

“ความต้องการมาตรฐานและแนวทางระดับโลกทำให้สหประชาชาติเป็นสถานที่ในอุดมคติสำหรับสิ่งนี้ที่จะเกิดขึ้น” เขากล่าวเสริม

หน่วยงานใหม่ของสหประชาชาติควรมีเป้าหมายเพื่อสนับสนุนประเทศต่างๆ ในการเพิ่มประโยชน์ของ AI ให้สูงสุด ลดความเสี่ยง และสร้างกลไกระหว่างประเทศสำหรับการติดตามและกำกับดูแล หน่วยงานใหม่จะต้องรวบรวมความเชี่ยวชาญที่จำเป็นเพื่อให้สามารถเข้าถึงได้ในประชาคมระหว่างประเทศ และสนับสนุนความพยายามในการวิจัยและพัฒนาของเครื่องมือ AI ที่ขับเคลื่อนความยั่งยืน

กูเตอร์เรสกล่าวว่าเขากำลังรวบรวม "คณะกรรมการที่ปรึกษาระดับสูงสำหรับ AI" เพื่อเริ่มต้นสิ่งต่างๆ โดยมีเป้าหมายที่จะแนะนำทางเลือกต่างๆ สำหรับการกำกับดูแล AI ทั่วโลกภายในสิ้นปีนี้

เขาเสริมว่าการสรุปนโยบายเกี่ยวกับ "วาระใหม่เพื่อสันติภาพ" ที่กำลังจะมีขึ้นจะครอบคลุมข้อเสนอแนะเกี่ยวกับการกำกับดูแล AI สำหรับประเทศสมาชิกของสหประชาชาติ ซึ่งรวมถึงข้อเสนอแนะสำหรับยุทธศาสตร์ระดับชาติในการพัฒนาอย่างรับผิดชอบและการใช้ AI ตลอดจนการมีส่วนร่วมพหุภาคีเพื่อพัฒนาบรรทัดฐานและหลักการเกี่ยวกับการประยุกต์ใช้ AI ทางทหาร

ประเทศสมาชิกจะถูกขอให้เห็นด้วยกับกรอบการทำงานระดับโลกในการควบคุมและส่งเสริมกลไกการกำกับดูแลสำหรับการใช้เทคโนโลยีที่ขับเคลื่อนด้วยข้อมูล รวมถึง AI เพื่อวัตถุประสงค์ในการต่อต้านการก่อการร้าย

การเจรจาสรุปนโยบายมีเป้าหมายที่จะสรุปผลภายในปี 2569 โดยข้อตกลงที่มีผลผูกพันทางกฎหมายจะถูกสร้างขึ้นเพื่อห้ามอาวุธอัตโนมัติร้ายแรงที่ทำงานโดยปราศจากการควบคุมดูแลของมนุษย์ เขากล่าว

คลาร์กยังเรียกร้องให้ประชาคมระหว่างประเทศพัฒนาวิธีทดสอบขีดความสามารถของระบบ การใช้งานในทางที่ผิด และข้อบกพร่องด้านความปลอดภัยที่อาจเกิดขึ้น เขากล่าวว่าทำให้มั่นใจได้ว่าหลายประเทศให้ความสำคัญกับการประเมินความปลอดภัยในข้อเสนอนโยบาย AI ของตน รวมถึงจีน สหภาพยุโรป และสหรัฐอเมริกา

นอกจากนี้เขายังเน้นย้ำถึงความจำเป็นในการมีมาตรฐานและแนวทางปฏิบัติที่ดีที่สุดในการทดสอบระบบดังกล่าวในด้านสำคัญๆ เช่น การเลือกปฏิบัติและการใช้งานในทางที่ผิด ซึ่งในปัจจุบันยังขาดอยู่

Zeng ตั้งข้อสังเกตว่าระบบ AI ในปัจจุบัน รวมถึง generative AI เป็นเครื่องมือประมวลผลข้อมูลที่ดูเหมือนชาญฉลาดแต่ไม่มีความเข้าใจที่แท้จริง

“นี่คือเหตุผลว่าทำไมพวกเขาจึงไม่สามารถไว้วางใจได้ในฐานะตัวแทนที่มีความรับผิดชอบซึ่งสามารถช่วยเหลือมนุษย์ในการตัดสินใจได้” เขากล่าว ตัวอย่างเช่น งานการทูตไม่ควรเป็นแบบอัตโนมัติ โดยเฉพาะอย่างยิ่ง AI ไม่ควรนำไปใช้กับการเจรจาระหว่างประเทศระหว่างประเทศต่างๆ เนื่องจากอาจขยายข้อจำกัดและจุดอ่อนของมนุษย์เพื่อสร้างความเสี่ยงที่ใหญ่ขึ้น

“AI ไม่ควรแสร้งทำเป็นมนุษย์” เขากล่าว พร้อมเรียกร้องให้มีความจำเป็นในการควบคุมระบบอาวุธที่ขับเคลื่อนด้วย AI อย่างเพียงพอและมีความรับผิดชอบของมนุษย์ “มนุษย์ควรดูแลรักษาและรับผิดชอบต่อการตัดสินใจขั้นสุดท้ายเกี่ยวกับการใช้อาวุธนิวเคลียร์เสมอ”

ขณะนี้ผู้มีส่วนได้ส่วนเสียทั่วโลกมีโอกาสรวมตัวกันในการอภิปรายเกี่ยวกับรั้วที่จำเป็นสำหรับ AI Omran Sharaf ผู้ช่วยรัฐมนตรีด้านวิทยาศาสตร์และเทคโนโลยีขั้นสูงของสหรัฐอาหรับเอมิเรตส์กล่าว

ก่อนที่ "มันจะสายเกินไป" เขาเรียกร้องให้ประเทศสมาชิกบรรลุฉันทามติเกี่ยวกับกฎเกณฑ์ที่จำเป็น รวมถึงกลไกในการป้องกันเครื่องมือ AI จากการผลักดันข้อมูลที่ผิดและการบิดเบือนข้อมูลที่อาจกระตุ้นให้เกิดลัทธิหัวรุนแรงและความขัดแย้ง

เช่นเดียวกับเทคโนโลยีดิจิทัลอื่นๆ การนำ AI มาใช้ควรได้รับคำแนะนำจากกฎหมายระหว่างประเทศที่ต้องบังคับใช้ในขอบเขตไซเบอร์ ชาราฟกล่าว เขาตั้งข้อสังเกตว่ากฎระเบียบควรมีความคล่องตัวและยืดหยุ่น เพื่อไม่ให้ขัดขวางความก้าวหน้าของเทคโนโลยี AI