CEO Pharma: อย่าหยุดการวิจัย AI งานของเราสำคัญเกินไป

Recursion Pharmaceuticals ใช้การเรียนรู้ของเครื่องเพื่อพัฒนายาร่วมกับ Bayer และ Genentech Chris Gibson ซีอีโอคิดว่าการดำเนินงานดังกล่าวมีมากกว่าความเสี่ยงใดๆ ที่อาจป้องกันการเลื่อนการชำระหนี้ได้

สังคมควรจัดการกับความเสี่ยงของปัญญาประดิษฐ์อย่างไร? มีหลายคนที่โต้แย้งว่าผลประโยชน์ที่เป็นไปได้มีมากกว่าอันตรายที่เกิดขึ้นในทันที ดังนั้น ข้อจำกัดต่างๆ จึงควรดำเนินการอย่างสบายๆ

"ฉันคิดว่าข้อเสนอแนะแบบกว้างๆ ที่เราหยุดทำงาน [เกี่ยวกับ AI] นั้นเป็นแนวทางที่เข้าใจผิดเล็กน้อย" Chris Gibson ผู้ร่วมก่อตั้งและซีอีโอของ Recursion Pharmaceuticals กล่าวในการสัมภาษณ์ล่าสุดกับ ZDNET

"ฉันคิดว่ามันสำคัญมากที่ผู้คนยังคงยอมรับโอกาสที่มีอยู่จากการเรียนรู้ของเครื่อง" Gibson กล่าว

บริษัทของ Gibson กำลังทำงานร่วมกับ Big Pharma เพื่อจ้าง AI ในการค้นคว้ายา

Gibson ตอบกลับจดหมายที่ตีพิมพ์ในเดือนมีนาคมโดย Elon Musk, นักวิชาการ AI Yoshua Bengio และคนอื่นๆ อีกหลายคนเรียกร้องให้หยุดการวิจัย AI ชั่วคราวเพื่อตรวจสอบอันตราย

คำร้องเรียกร้องให้หยุดสิ่งที่เรียกว่า "การแข่งขันที่ไม่สามารถควบคุมได้" เพื่อความเหนือกว่าของ AI โดยสร้างระบบที่ผู้สร้างไม่สามารถ "เข้าใจ คาดการณ์ หรือควบคุมได้อย่างน่าเชื่อถือ"

Gibson ให้ความสำคัญกับสิ่งที่เขามองว่าเป็นข้อกังวลที่ไม่สมจริง เช่น ศักยภาพของโปรแกรมการเรียนรู้ของเครื่องที่จะกลายเป็นเรื่องละเอียดอ่อน ซึ่งเป็นสถานการณ์ที่นักวิชาการที่พิจารณาเรื่องนี้แล้วถือว่าค่อนข้างห่างไกล

“เราไม่ต้องการหยุดชั่วคราวเป็นเวลาหกเดือนหรือหนึ่งปี เนื่องจากโอกาสที่ยังเหลืออยู่อีกมาก” Chris Gibson ผู้ร่วมก่อตั้งและซีอีโอของ Recursion Pharmaceuticals กล่าว

“งานที่เราทำที่ Recursion นั้นน่าสนใจอย่างยิ่ง โดยได้ฝึกฝนโมเดลพารามิเตอร์หลายพันล้านตัวที่น่าตื่นเต้นจริงๆ ในบริบทของชีววิทยา” Gibson กล่าวกับ ZDNET "แต่พวกเขาไม่มีความรู้สึก พวกเขาจะไม่กลายเป็นคนมีความรู้สึก พวกเขายังห่างไกลจากสิ่งนั้นมาก"

ข้อกังวลหลักประการหนึ่งของ Gibson ก็คือการรักษาความสามารถของบริษัทของเขาและคนอื่นๆ ที่จะก้าวไปข้างหน้ากับงานต่างๆ เช่น การค้นคว้ายา Recursion ซึ่งเป็นพันธมิตรกับ Bayer และ Genentech และอื่นๆ มีผู้สมัครยาห้ารายที่ปัจจุบันอยู่ในขั้นตอนทางคลินิกของขั้นตอนการพัฒนายา บริษัทได้รวบรวมข้อมูลมูลค่ากว่า 13 เพตาไบต์ใน Phenomaps ซึ่งเป็นคำศัพท์สำหรับฐานข้อมูล "ความสัมพันธ์ที่อนุมาน" ระหว่างโมเลกุล

“แบบจำลองที่ถูกแยกออกจากกันเพื่อตอบคำถามที่เฉพาะเจาะจงจริงๆ ฉันคิดว่ามีความสำคัญอย่างยิ่งต่อการก้าวหน้าของมนุษยชาติ” กิบสันกล่าว “โมเดลเช่นเราและบริษัทอื่นๆ เช่นเรา เราไม่ต้องการหยุดชั่วคราวเป็นเวลาหกเดือนหรือหยุดเป็นเวลาหนึ่งปี เนื่องจากมีโอกาสมากเพียงใดที่จะก้าวไปข้างหน้า”

ในเดือนกรกฎาคม บริษัทของ Gibson ซึ่งเปิดเผยต่อสาธารณะ ประกาศว่าบริษัทได้รับเงินลงทุน 50 ล้านดอลลาร์จาก Nvidia ซึ่งชิป GPU ครองการประมวลผล AI

Gibson วัดจากคำพูดของเขาเกี่ยวกับผู้ที่กังวลเกี่ยวกับ AI หรือผู้ที่เรียกร้องให้หยุด “มีคนฉลาดจริงๆ ในทั้งสองด้านของปัญหา” เขากล่าว โดยสังเกตว่าผู้ร่วมก่อตั้ง Recursion ได้ลาออกจากบริษัทในแต่ละวันเมื่อหลายปีก่อน เนื่องจากความกังวลเกี่ยวกับความท้าทายด้านจริยธรรมของ AI

Yoshua Bengio ที่ปรึกษาของ Recursion เป็นหนึ่งในผู้ลงนามในจดหมาย

“โยชัวเก่งมาก ดังนั้นนี่เลยทำให้ฉันเข้ามามีบทบาทเพียงเล็กน้อย” กิ๊บสันกล่าว “แต่ฉันจะบอกว่าฉันคิดว่ามีข้อโต้แย้งที่สำคัญมากทั้งสองด้านของการอภิปราย”

มุมมองที่แตกต่างกันของทั้งสองฝ่ายสำหรับและต่อต้านการเลื่อนการชำระหนี้ "เป็นการเตือน" เขากล่าว "แต่ฉันไม่เชื่อว่าเราควรหยุดการฝึกอบรมทั้งหมด และการอนุมานทั้งหมดสำหรับอัลกอริทึม ML และ AI ในช่วงเวลาใดก็ได้"

ทีมงานของ Gibson ติดตาม ZDNET เพื่อชี้ให้เห็นว่า Bengio ในบล็อกโพสต์ของเขาเกี่ยวกับความเสี่ยงด้าน AI ได้แยกแยะความแตกต่างระหว่างภัยคุกคามกับการใช้งาน AI ที่เป็นประโยชน์ต่อสังคม เช่น การดูแลสุขภาพ

Gibson สอดคล้องกับเพื่อนร่วมงานของ Bengio เช่น Yann LeCun หัวหน้านักวิทยาศาสตร์ด้าน AI ของ Meta Properties ซึ่งเคยพูดต่อต้านความคิดริเริ่มของเพื่อนของเขาและผู้ร่วมงานในบางครั้ง

Gibson ยอมให้แนวคิดบางประการเกี่ยวกับความเสี่ยง แม้จะไม่น่าจะเป็นไปได้ก็ตาม จำเป็นต้องได้รับการพิจารณาอย่างรอบคอบ สถานการณ์หนึ่งคือสถานการณ์การสิ้นสุดของมนุษยชาติที่ได้รับการร่างโดยองค์กรต่างๆ เช่น สถาบันอนาคตของมนุษยชาติ

“มีคนในสาขา AI ที่คิดว่าถ้าคุณขอให้อัลกอริธึม ML หรือ AI เพื่อเพิ่มฟังก์ชันอรรถประโยชน์บางประเภท เช่น ทำให้โลกสวยงามและสงบสุขที่สุดเท่าที่จะเป็นไปได้ อัลกอริธึม AI ก็อาจทำได้ ซึ่งก็อาจไม่ได้ไม่ถูกต้องทั้งหมด ตีความว่ามนุษย์เป็นต้นเหตุของการขาดความงามและความสงบสุขส่วนใหญ่” กิ๊บสันกล่าว

เป็นผลให้โปรแกรมสามารถ "วางสิ่งที่น่ากลัวจริงๆ" ได้ โอกาสดังกล่าว "อาจจะห่างไกล" เขากล่าว “แต่ผลกระทบนั้นใหญ่หลวงมาก สิ่งสำคัญคือต้องคิดถึงมัน ไม่น่าเป็นไปได้ว่าเครื่องบินลำใดลำหนึ่งของเราจะพังเมื่อเราขึ้นไปบนท้องฟ้า แต่แน่นอนว่าเรามองไปที่คำเตือนเพราะว่ามีค่าใช้จ่ายสูงมาก”

นอกจากนี้ยังมี "บางสิ่งที่ชัดเจนจริงๆ ที่เราทุกคนสามารถเห็นพ้องต้องกันในวันนี้" กิบสันกล่าว เช่น การไม่อนุญาตให้โครงการต่างๆ ควบคุมอาวุธทำลายล้างสูง

“ฉันจะสนับสนุนให้ AI หรืออัลกอริธึม ML เข้าถึงระบบยิงนิวเคลียร์ของเราหรือไม่ ไม่แน่นอน” เขากล่าว

ในระดับที่ธรรมดากว่านั้น Gibson เชื่อว่าปัญหาเรื่องอคติจำเป็นต้องได้รับการจัดการในอัลกอริธึม “เราจำเป็นต้องตรวจสอบให้แน่ใจว่าเราระมัดระวังเกี่ยวกับชุดข้อมูลจริงๆ และตรวจสอบให้แน่ใจว่าฟังก์ชั่นยูทิลิตี้ที่เราปรับให้เหมาะสมสำหรับอัลกอริธึมของเรานั้นไม่มีอคติอยู่ภายใน”

“คุณมีอคติมากขึ้นเรื่อยๆ ในผลลัพธ์ของอัลกอริธึมเหล่านี้ ซึ่งกำลังกลายมาเป็นส่วนหนึ่งในชีวิตของเรามากขึ้นเรื่อยๆ” Gibson ตั้งข้อสังเกต

ในมุมมองของ Gibson ข้อกังวลพื้นฐานที่สุดควรจะชัดเจนสำหรับทุกคน “ตัวอย่างที่ดีคือ ฉันคิดว่า มันมีความเสี่ยงมากกว่าที่จะให้อัลกอริธึมเข้าถึงอินเทอร์เน็ตโดยไม่มีการควบคุม” เขากล่าว “ดังนั้น อาจมีกฎระเบียบบางอย่างในระยะสั้นเกี่ยวกับเรื่องนั้น”

เขากล่าวว่าจุดยืนของเขาในเรื่องกฎระเบียบคือ "ส่วนหนึ่งของการอยู่ในสังคมที่มีหน้าที่การงานสูงคือการวางทางเลือกทั้งหมดไว้บนโต๊ะและมีการอภิปรายที่สำคัญเกี่ยวกับตัวเลือกเหล่านั้น เราแค่ต้องระวังที่จะไม่ขยายขอบเขตตัวเองมากเกินไปในวงกว้าง - กฎระเบียบที่มุ่งเป้าไปที่ ML ทั้งหมดหรือ AI ทั้งหมด"

ข้อกังวลเร่งด่วนสำหรับจริยธรรมของ AI คือแนวโน้มปัจจุบันของบริษัทต่างๆ เช่น OpenAI และ Google ในการเปิดเผยการทำงานภายในของโปรแกรมของตนน้อยลง Gibson กล่าวว่าเขาขัดต่อกฎระเบียบใดๆ ที่กำหนดให้โปรแกรมต่างๆ ต้องเป็นโอเพ่นซอร์ส “แต่” เขากล่าวเสริม “ผมคิดว่าเป็นเรื่องสำคัญมากสำหรับบริษัทส่วนใหญ่ในการแบ่งปันงานบางส่วนกับสังคมในรูปแบบต่างๆ เพื่อขับเคลื่อนทุกคนไปข้างหน้า”

Recursion ได้ใช้ชุดข้อมูลแบบโอเพ่นซอร์สจำนวนมาก เขากล่าว และ "ฉันจะไม่ยกเว้นความเป็นไปได้ที่เราจะโอเพ่นซอร์สโมเดลบางรุ่นของเราในอนาคต"

เห็นได้ชัดว่าคำถามใหญ่เกี่ยวกับกฎระเบียบและการควบคุมกลับมาที่เจตจำนงของพลเมืองของประเทศใดประเทศหนึ่งโดยเฉพาะ คำถามสำคัญคือผู้มีสิทธิ์เลือกตั้งจะได้รับความรู้เกี่ยวกับ AI ได้อย่างไร ในเรื่องนั้น กิ๊บสันไม่ได้มองโลกในแง่ดี

แม้ว่าการศึกษาจะมีความสำคัญ แต่เขากล่าวว่า "ความเชื่อโดยทั่วไปของผมก็คือว่าคนทั่วไปดูเหมือนจะไม่สนใจที่จะได้รับการศึกษาในทุกวันนี้"

“ผู้ที่สนใจที่จะได้รับการศึกษามักจะปรับตัวเข้ากับสิ่งเหล่านี้” เขากล่าว “และผู้คนส่วนใหญ่ในโลกไม่เป็นเช่นนั้น ซึ่งน่าเสียดายอย่างยิ่ง”