มีความเสี่ยงสูงที่จะไม่รู้ว่า OpenAI กำลังสร้างอะไรบนคลาวด์ นักวิชาการของ Oxford เตือน

อุตสาหกรรมบริการรูปแบบภาษากำลังปกปิดรายละเอียดที่สำคัญเกี่ยวกับความน่าเชื่อถือและความน่าเชื่อถือ รายงานจากมหาวิทยาลัยอ็อกซ์ฟอร์ดและผู้ร่วมงาน เตือน

หนึ่งในเหตุการณ์สำคัญด้านปัญญาประดิษฐ์ (AI) ในปี 2566 คือการตัดสินใจของ OpenAI ผู้สร้าง ChatGPT ที่จะเปิดเผยข้อมูลแทบไม่มีเลยเกี่ยวกับโมเดลภาษาขนาดใหญ่ (LLM) GPT-4 ล่าสุด เมื่อบริษัทเปิดตัวโปรแกรมใน มีนาคม.

การแกว่งไปสู่การรักษาความลับอย่างกะทันหันนั้นกำลังกลายเป็นปัญหาทางจริยธรรมที่สำคัญสำหรับอุตสาหกรรมเทคโนโลยี เนื่องจากไม่มีใครรู้ นอกจาก OpenAI และพันธมิตรอย่าง Microsoft ว่าเกิดอะไรขึ้นในกล่องดำในระบบคลาวด์คอมพิวติ้งของพวกเขา

การสร้างความสับสนนี้เป็นหัวข้อของรายงานในเดือนนี้โดยนักวิชาการ Emanuele La Malfa จากมหาวิทยาลัยอ็อกซ์ฟอร์ด และผู้ร่วมงานจากสถาบัน Alan Turing และมหาวิทยาลัยลีดส์

ในบทความที่โพสต์บนเซิร์ฟเวอร์ก่อนการพิมพ์ของ arXiv La Malfa และเพื่อนร่วมงานสำรวจปรากฏการณ์ของ "Language-Models-as-a-Service" (LMaaS) ซึ่งหมายถึง LLM ที่โฮสต์ออนไลน์ ไม่ว่าจะอยู่ด้านหลังอินเทอร์เฟซผู้ใช้ หรือ ผ่าน API ตัวอย่างหลักของแนวทางดังกล่าวคือ ChatGPT และ GPT-4 ของ OpenAI

"แรงกดดันทางการค้าได้นำไปสู่การพัฒนา LM ขนาดใหญ่และมีประสิทธิภาพสูง [โมเดลภาษา] ที่สามารถเข้าถึงได้โดยเฉพาะเป็นบริการสำหรับลูกค้า ซึ่งส่งคืนสตริงหรือโทเค็นเพื่อตอบสนองต่อการป้อนข้อความของผู้ใช้ - แต่สำหรับข้อมูลเกี่ยวกับสถาปัตยกรรม การใช้งาน ไม่มีขั้นตอนการฝึกอบรมหรือข้อมูลการฝึกอบรม และไม่สามารถตรวจสอบหรือแก้ไขสถานะภายในได้" ผู้เขียนเขียน

ความแตกต่างระหว่างโมเดลภาษาโอเพ่นซอร์สและ LMaaS ผู้ใช้โปรแกรมโอเพ่นซอร์สสามารถควบคุมได้อย่างสมบูรณ์ ในขณะที่ลูกค้าบริการ LMaaS ต้องทำสิ่งที่พวกเขาได้รับผ่านเบราว์เซอร์หรือ API

ข้อจำกัดในการเข้าถึงเหล่านั้น “โดยธรรมชาติของ LMaaS รวมกับลักษณะของกล่องดำ ขัดแย้งกับความต้องการของสาธารณะและชุมชนการวิจัยในการทำความเข้าใจ ไว้วางใจ และควบคุมสิ่งเหล่านี้ได้ดีขึ้น” พวกเขาตั้งข้อสังเกต "สิ่งนี้ทำให้เกิดปัญหาสำคัญที่แกนกลางของสนาม: โมเดลที่มีศักยภาพและมีความเสี่ยงมากที่สุดก็วิเคราะห์ได้ยากที่สุดเช่นกัน"

ปัญหาคือปัญหาที่หลายฝ่ายชี้ให้เห็น รวมถึงคู่แข่งของ OpenAI โดยเฉพาะกลุ่มที่ใช้โค้ดโอเพ่นซอร์สเพื่อเอาชนะโค้ดแบบปิด ตัวอย่างเช่น Emad Mostaque ซีอีโอของ Stability.ai สตาร์ทอัพด้าน AI ซึ่งผลิตเครื่องมือ เช่น โปรแกรมสร้างภาพ Stable Diffusion กล่าวว่าไม่มีองค์กรใดที่สามารถเชื่อถือโปรแกรมโอเพนซอร์ซเช่น GPT-4 ได้

“โมเดลแบบเปิดจะเป็นสิ่งจำเป็นสำหรับข้อมูลส่วนตัว” Mostaque กล่าวระหว่างการประชุมเล็กๆ ของสื่อมวลชนและผู้บริหารในเดือนพฤษภาคม "คุณจำเป็นต้องรู้ทุกสิ่งที่อยู่ภายใน โมเดลเหล่านี้ทรงพลังมาก"

La Malfa และทีมงานตรวจสอบวรรณกรรมเกี่ยวกับโมเดลภาษาต่างๆ และระบุว่าการสร้างความสับสนช่วยป้องกันการตรวจสอบโปรแกรมพร้อมกับปัจจัยสำคัญสี่ประการ ได้แก่ ความสามารถในการเข้าถึง ความสามารถในการจำลองแบบ การเปรียบเทียบ และความน่าเชื่อถือได้อย่างไร

ผู้เขียนทราบว่าข้อกังวลเหล่านี้เป็นการพัฒนาใหม่ในจรรยาบรรณของ AI: "ปัญหาเหล่านี้มีความเฉพาะเจาะจงกับกระบวนทัศน์ LMaaS และแตกต่างจากข้อกังวลที่มีอยู่แล้วที่เกี่ยวข้องกับโมเดลภาษา"

การเข้าถึงเกี่ยวข้องกับปัญหาการเก็บความลับของโค้ด ซึ่งสร้างประโยชน์อย่างไม่สมส่วนกับบริษัทขนาดใหญ่ที่มีงบประมาณด้านการวิจัยและพัฒนาจำนวนมาก ผู้เขียนกล่าว

"ด้วยพลังการคำนวณที่กระจายอย่างไม่สม่ำเสมอและกระจุกตัวอยู่ในบริษัทจำนวนไม่มาก" พวกเขาเขียน "บริษัทที่มีเทคโนโลยีแต่ไม่มีข้อได้เปรียบทางคอมพิวเตอร์ ต้องเผชิญกับภาวะที่กลืนไม่เข้าคายไม่ออก ในขณะที่การใช้ LMaaS แบบโอเพ่นซอร์สจะเป็นประโยชน์ต่อพวกเขาในแง่ของการเปิดรับตลาดและ การสนับสนุนฐานโค้ดโดยชุมชน การปล่อยโค้ดที่ขับเคลื่อนโมเดลอาจเผาผลาญความได้เปรียบในการแข่งขันอย่างรวดเร็วเพื่อสนับสนุนผู้เล่นที่มีทรัพยากรการคำนวณสูงกว่า"

นอกจากนี้ ราคาที่สม่ำเสมอของโปรแกรม LMaaS หมายความว่า ผู้คนในประเทศเศรษฐกิจที่พัฒนาน้อยกว่าจะเสียเปรียบในการเข้าถึงเครื่องมือ “จุดเริ่มต้นในการบรรเทาปัญหาเหล่านี้คือการวิเคราะห์ผลกระทบของ LMaaS และโดยทั่วไปคือบริการปัญญาประดิษฐ์แบบจ่ายตามการใช้งานในฐานะเทคโนโลยีแบบสแตนด์อโลน แพร่หลาย และก่อกวน” พวกเขาแนะนำ

ปัญหาอีกประการหนึ่งคือช่องว่างที่เพิ่มขึ้นในการฝึกอบรม LLM: ธุรกิจเชิงพาณิชย์สามารถนำคำแนะนำจากลูกค้ามาใช้ซ้ำได้ และทำให้ตนเองแตกต่างจากโปรแกรมที่ใช้เฉพาะข้อมูลสาธารณะเท่านั้น ผู้เขียนตั้งข้อสังเกต

พวกเขาเขียนใบอนุญาตเชิงพาณิชย์ของ LMaaS ว่า "ให้สิทธิ์แก่บริษัทต่างๆ ในการใช้คำสั่งเพื่อจัดหา บำรุงรักษา และปรับปรุงบริการของตน" เพื่อให้ไม่มีข้อมูลพื้นฐานทั่วไปในการฝึกอบรมที่ทุกคนดึงมา

พวกเขาเสนอแผนภูมิ (ด้านล่าง) ที่ประเมินความแตกต่างว่าโมเดลภาษารวบรวมคำแนะนำจากลูกค้าสำหรับการฝึกอบรมและ "การปรับแต่ง" หรือไม่ ซึ่งเป็นขั้นตอนที่ในบางกรณีจะช่วยเพิ่มความสามารถของโมเดลภาษา และไม่ว่าพวกเขาจะอนุญาตให้ผู้ใช้เลือกไม่ใช้หรือไม่

การเปรียบเทียบว่าโมเดลภาษาเสนอการเลือกไม่รับให้กับลูกค้าในส่วนที่เกี่ยวข้องกับข้อมูลหรือไม่ และไม่ว่าพวกเขาจะใช้ข้อมูลเพื่อการฝึกอบรมและปรับแต่งโมเดลกล่องดำของตนหรือไม่

หลังจากอธิบายความเสี่ยงต่างๆ อย่างยืดยาว ลา มัลฟาและทีมงานได้เสนอ "วาระเบื้องต้น" เพื่อจัดการกับสี่ประเด็น โดยเร่งเร้าว่า "เราจำเป็นต้องทำงานเป็นชุมชนเพื่อค้นหาแนวทางแก้ไขที่ช่วยให้นักวิจัย ผู้กำหนดนโยบาย และสมาชิกของสาธารณชนสามารถไว้วางใจได้ แอลมาส”

ประการหนึ่ง พวกเขาแนะนำว่า "บริษัทควรเผยแพร่ซอร์สโค้ด" ของโปรแกรม LMaaS ของตน หากไม่ใช่ต่อสาธารณะทั่วไป "อย่างน้อย LMaaS ควรจะพร้อมใช้งานสำหรับผู้ตรวจสอบ/ผู้ประเมิน/ทีมสีแดงโดยมีข้อจำกัดในการแบ่งปัน"

พวกเขาเสนอว่าบริษัทต่างๆ ไม่ควรเลิกใช้โมเดลภาษาเก่าโดยสิ้นเชิงเมื่อมีการเปิดตัวโมเดลใหม่ หรืออย่างน้อย "พารามิเตอร์ทั้งหมดที่ประกอบเป็นโมเดลควรถูกแฮช และผู้ดูแลโมเดลควรเสนอบันทึกของ 'การคอมมิตโมเดล' ให้กับผู้ใช้ ในขณะที่ผู้ดูแลอัปเดตโมเดล" และสาขานี้ รวมถึงวารสารและการประชุม ควร "กีดกันการใช้แบบจำลอง" ที่ไม่ปฏิบัติตามข้อควรระวังดังกล่าว

สำหรับการวัดประสิทธิภาพ จำเป็นต้องพัฒนาเครื่องมือเพื่อทดสอบองค์ประกอบที่ LMaaS ได้รวบรวมไว้จากการแจ้งเตือน เพื่อให้สามารถตั้งค่าพื้นฐานได้อย่างถูกต้อง

เห็นได้ชัดว่า LMaaS หัวข้อเรื่องจริยธรรมของ AI ได้เข้าสู่ระยะใหม่ ซึ่งเป็นช่วงที่ข้อมูลสำคัญถูกเก็บไว้เป็นความลับ ทำให้การเลือกอย่างมีจริยธรรมกลายเป็นเรื่องยากสำหรับทุกคนมากกว่าที่เคยเป็นมา