เครื่องจักรที่คิดเหมือนมนุษย์: ทุกสิ่งที่ควรรู้เกี่ยวกับ AGI และ AI Debate 3

เป็นเวลา 3.5 ชั่วโมง นักวิชาการที่นําโดย Gary Marcus และ Vincent Boucher ได้อภิปรายว่าเครื่องมือใดที่อาจนํามาซึ่ง 'ปัญญาประดิษฐ์ทั่วไป' ในตํานาน และผลกระทบในทางปฏิบัติและศีลธรรมคืออะไร

หลังจากห่างหายไปหนึ่งปี AI Debate ที่จัดโดย Gary Marcus และ Vincent Boucher กลับมาพร้อมกลุ่มนักคิด AI คราวนี้รวมถึงประเภทนโยบายและนักวิชาการที่อยู่นอกสาขาวิชาของ AI เช่น Noam Chomsky

หลังจากห่างหายไปหนึ่งปี การอภิปรายด้านปัญญาประดิษฐ์ประจําปีที่จัดโดย Montreal.ai และโดยศาสตราจารย์กิตติมศักดิ์ของ NYU และ Gary Marcus นักบิน AI กลับมาอีกครั้งในเย็นวันศุกร์ โดยจัดขึ้นเป็นงาน เสมือนจริงอีกครั้งในปี 2020

"ปัญหาค่อนข้างทั่วไปและสําคัญ" Chomsky กล่าว "สื่อกําลังดําเนินการคิดที่สําคัญเกี่ยวกับความสําเร็จอันน่าอัศจรรย์ของ GPT-3 และลูกหลานของมัน ล่าสุด ChatGPT และสิ่งที่เทียบเคียงได้ในโดเมนอื่นๆ และการนําเข้าเกี่ยวกับคําถามพื้นฐานเกี่ยวกับธรรมชาติของมนุษย์"

เขาถามว่า "นอกเหนือจากประโยชน์ใช้สอยแล้ว เราจะเรียนรู้อะไรจากแนวทางเหล่านี้เกี่ยวกับความรู้ความเข้าใจ การคิด โดยเฉพาะภาษา ซึ่งเป็นองค์ประกอบหลักของความรู้ความเข้าใจของมนุษย์" 

Chomsky กล่าวว่า "ตรวจพบข้อบกพร่องมากมายในแบบจําลองภาษาขนาดใหญ่" และบางทีอาจจะดีขึ้นด้วย "ข้อมูลที่มากขึ้น พารามิเตอร์ที่มากขึ้น" แต่ "มีข้อบกพร่องที่เรียบง่ายและเป็นพื้นฐานที่ไม่มีวันได้รับการแก้ไข" "โดยอาศัยการออกแบบ ระบบจึงไม่มีความแตกต่างระหว่างภาษาที่เป็นไปได้และเป็นไปไม่ได้"

ชอมสกี้กล่าวต่อว่า

T ยิ่งระบบได้รับการปรับปรุงมากขึ้นความล้มเหลวก็ยิ่งลึกขึ้น [... ] พวกเขาไม่ได้บอกอะไรเราเกี่ยวกับภาษาและความคิด เกี่ยวกับความรู้ความเข้าใจโดยทั่วไป หรือเกี่ยวกับการเป็นมนุษย์คืออะไร เราเข้าใจเรื่องนี้เป็นอย่างดีในโดเมนอื่นๆ ไม่มีใครจะให้ความสนใจกับทฤษฎีของอนุภาคพื้นฐานที่อย่างน้อยก็ไม่ได้แยกแยะระหว่างอนุภาคที่เป็นไปได้และเป็นไปไม่ได้ [...] มีอะไรมีค่าใน GPT-3 หรือระบบที่หรูหรากว่านี้หรือไม่? มันค่อนข้างยากที่จะหาใด ๆ [...] ใครๆ ก็ถามได้ว่าประเด็นคืออะไร? มี AI ประเภทอื่นหรือไม่ซึ่งเป็นเป้าหมายของผู้บุกเบิกสาขาวิชาเช่นทัวริงนีเวลล์และไซมอนและมินสกี้ที่ถือว่า AI เป็นส่วนหนึ่งของวิทยาศาสตร์ความรู้ความเข้าใจที่เกิดขึ้นใหม่ซึ่งเป็น AI ชนิดหนึ่งที่จะนําไปสู่ความเข้าใจในความคิดภาษาความรู้ความเข้าใจและโดเมนอื่น ๆ ที่จะช่วยตอบคําถามประเภทที่โดดเด่นตลอดหลายพันปี ในส่วนที่เกี่ยวกับคําพยากรณ์ Delphic เราเป็นสิ่งมีชีวิตประเภทใด? 

มาร์คัสติดตาม Chomsky ด้วยการนําเสนอของเขาเองโดยพูดถึงองค์ประกอบสี่ประการของความรู้ความเข้าใจที่ยังไม่ได้รับการแก้ไข ได้แก่ นามธรรม การใช้เหตุผล องค์ประกอบ และข้อเท็จจริง

จากนั้น Marcus แสดงตัวอย่างตัวอย่างที่โปรแกรมเช่น GPT-3 ล้มลงตามแต่ละองค์ประกอบ ตัวอย่างเช่น ในแง่ของ "ข้อเท็จจริง" Marcus กล่าวว่าโปรแกรมการเรียนรู้เชิงลึกไม่มีแบบจําลองโลกที่จะสรุปได้

Marcus นําเสนอสไลด์โชว์ว่า AI ตกอยู่ในองค์ประกอบความรู้ความเข้าใจสี่ประการที่ยังไม่ได้รับการแก้ไข ได้แก่ นามธรรม การใช้เหตุผล องค์ประกอบ และข้อเท็จจริง

Konrad Kording ซึ่งเป็นศาสตราจารย์ด้านความรู้บูรณาการของ Penn ที่มหาวิทยาลัยเพนซิลเวเนีย ได้ติดตาม Marcus ในการพูดคุยเกี่ยวกับสมองที่บันทึกไว้ล่วงหน้า (Kording กําลังเดินทางในช่วงเวลาของงาน)

Kording เริ่มต้นด้วยการพูดคุยเกี่ยวกับภารกิจที่จะนําแนวคิดเรื่องสาเหตุมาสู่คอมพิวเตอร์ Kording กล่าวว่ามนุษย์มักเป็น "นักสืบที่ไม่ดี" แต่เก่งในการ "รบกวน" สิ่งต่าง ๆ เพื่อสังเกตผลที่ตามมา 

เขาอธิบายถึงการรบกวนทรานซิสเตอร์ไมโครชิป และติดตามร่องรอยแรงดันไฟฟ้าเพื่อสังเกตสาเหตุในทางปฏิบัติ เขากล่าวว่ามนุษย์มุ่งเน้นไปที่แบบจําลองที่หลากหลายของโลก

สไลด์จากการนําเสนอที่บันทึกเทปไว้ของ Konrad Kording

นักประสาทวิทยา Dileep George ซึ่งมุ่งเน้นไปที่ AGI ที่หน่วย DeepMind ของ Google เป็นคนต่อไป "ฉันเป็นวิศวกร" เขาบอกกับผู้ชม จอร์จยกตัวอย่างวันที่ทางประวัติศาสตร์สองลํา เครื่องบินลําแรกในปี 1903 และเที่ยวบินข้ามมหาสมุทรแอตแลนติกแบบไม่หยุดพักครั้งแรกในปี 1919 และท้าทายให้ทุกคนเดาปีของภัยพิบัติฮินเดนเบิร์ก คําตอบคือปี 1937 ซึ่งจอร์จกล่าวว่าน่าจะสร้างความประหลาดใจให้กับผู้คนเพราะมันตามมานานหลังจากความคืบหน้าของเครื่องบิน 

จอร์จกล่าวว่าประเด็นคือการแยกความแตกต่างระหว่างการ "ขยายขนาด" โปรแกรม AI ในปัจจุบัน และการทําความเข้าใจ "ความแตกต่างพื้นฐานระหว่างโมเดลปัจจุบันกับความฉลาดที่เหมือนมนุษย์"

มาร์คัสตั้งคําถามแรกของวิทยากร เขาถาม Chomsky เกี่ยวกับแนวคิดเรื่อง "ความเป็นมาแต่กําเนิด" ในงานเขียนของ Chomsky ซึ่งเป็นแนวคิดที่ว่ามีบางสิ่งบางอย่าง "สร้างขึ้น" ในจิตใจของมนุษย์ AI ควรให้ความสําคัญกับความเป็นมาแต่กําเนิดมากขึ้นหรือไม่?

Chomsky กล่าวว่า "การเติบโตและการพัฒนาทุกประเภทจากสถานะเริ่มต้นไปสู่สภาวะคงที่เกี่ยวข้องกับปัจจัยสามประการ" หนึ่งคือโครงสร้างภายในในสถานะเริ่มต้น ประการที่สองคือ "ข้อมูลใดก็ตามที่เข้ามา" และประการที่สาม "กฎทั่วไปของธรรมชาติ"

"ปรากฎว่าโครงสร้างโดยกําเนิดมีบทบาทพิเศษในทุกด้านที่เราค้นพบ" 

สิ่งที่ถือว่าเป็นตัวอย่างกระบวนทัศน์ของการเรียนรู้ เช่น การได้มาซึ่งภาษา "ทันทีที่คุณเริ่มแยกมันออกจากกัน คุณจะพบว่าข้อมูลแทบไม่มีผลเลย โครงสร้างของตัวเลือกสําหรับความเป็นไปได้ในการออกเสียงมีผลจํากัดอย่างมากต่อประเภทของเสียงที่ทารกจะได้ยิน [... ] แนวคิดนั้นสมบูรณ์มากแทบไม่ต้องใช้หลักฐานเพื่อให้ได้มาซึ่งการนําเสนอสองสามครั้ง [...] ความสงสัยของฉันคือยิ่งเรามองเข้าไปในสิ่งใดสิ่งหนึ่งมากเท่าไหร่เราก็จะยิ่งค้นพบสิ่งนั้นมากขึ้นเท่านั้นเช่นเดียวกับในระบบการมองเห็นและสิ่งอื่นใดที่เราเข้าใจ" 

นักประสาทวิทยา Dileep George จาก DeepMind

Marcus ยกย่องบทความเกี่ยวกับ ระบบที่เรียกว่า Cicero ในปีนี้จากนักวิทยาศาสตร์ AI ของ Meta เพราะมันขัดกับด้ายของการขยายขนาด เขาตั้งข้อสังเกตว่าโมเดลนี้มีระบบแยกต่างหากสําหรับการวางแผนและภาษา 

Dileep George กล่าวว่า AI จะต้องสร้าง "สมมติฐานพื้นฐานเกี่ยวกับโลก" และ "มีเวทมนตร์บางอย่างเกี่ยวกับโครงสร้างโลกของเราที่ช่วยให้เราสามารถตั้งสมมติฐานได้เพียงไม่กี่ข้อ อาจน้อยกว่าครึ่งโหล และนําบทเรียนเหล่านั้นไปใช้ซ้ําแล้วซ้ําเล่าเพื่อสร้างแบบจําลองของโลก"

สมมติฐานดังกล่าวอยู่ในโมเดลการเรียนรู้เชิงลึก แต่ในระดับที่แตกต่างจากการสังเกตโดยตรง George กล่าวเสริม

มาร์คัสถามชอมสกี้ อายุ 94 ปีว่าอะไรเป็นแรงจูงใจให้เขา "สิ่งที่กระตุ้นฉันคือ Delphic Oracle" Chomsky กล่าว "รู้จักตัวเอง" Chomsky กล่าวเสริมว่าแทบไม่มีความแตกต่างทางพันธุกรรมระหว่างมนุษย์ เขากล่าวว่าภาษาไม่ได้เปลี่ยนแปลงตั้งแต่การเกิดขึ้นของมนุษย์ ดังที่เห็นได้จากเด็กคนใดในวัฒนธรรมใดก็ตามที่สามารถเรียนรู้ภาษาได้ "เราเป็นสิ่งมีชีวิตประเภทใด" คือคําถาม Chomsky กล่าว Chomsky เสนอภาษาจะเป็นแกนหลักของ AI เพื่อค้นหาว่าอะไรทําให้มนุษย์มีเอกลักษณ์เฉพาะตัวในฐานะสายพันธุ์ 

มาร์คัสย้ายไปที่คําถามที่สองเกี่ยวกับการบรรลุการให้เหตุผลในทางปฏิบัติในระบบคอมพิวเตอร์ เขานํา Yejin Choi ซึ่งเป็นศาสตราจารย์ Brett Helsel ที่มหาวิทยาลัยวอชิงตันมาเป็นวิทยากร คนแรก

Choi คาดการณ์ว่า "การแสดงที่น่าทึ่งมากขึ้นของ AI ในอีกไม่กี่ปีข้างหน้า" 

Yejin Choi ศาสตราจารย์ Brett Helsel ที่มหาวิทยาลัยวอชิงตัน

"ถึงกระนั้น เครือข่ายเหล่านี้จะยังคงทําผิดพลาดในกรณีที่เป็นปฏิปักษ์และกรณีขอบ" Choi กล่าว นั่นเป็นเพราะ "เราไม่รู้ความลึก" ของเครือข่าย Choi ใช้ตัวอย่างของสสารมืดในฟิสิกส์ ซึ่งเป็นสิ่งที่วิทยาศาสตร์รู้แต่ไม่สามารถวัดได้ "เรื่องมืดของภาษาและสติปัญญาอาจเป็นสามัญสํานึก"

Choi กล่าวว่าสสารมืดในที่นี้คือสิ่งที่ง่ายสําหรับมนุษย์ แต่ยากสําหรับเครื่องจักร 

ต่อไปคือ David Ferrucci อดีตโครงการ IBM Watson และผู้ก่อตั้งบริษัทใหม่ Elemental Cognition

Ferrucci กล่าวว่าความสนใจของเขามักจะอยู่ที่โปรแกรมที่เขาสามารถสนทนาได้เหมือนกับบุคคล "ฉันจินตนาการมาตลอดว่าเราไม่สามารถทําให้เครื่องจักรบรรลุวิสัยทัศน์นี้ได้จริงๆ หากพวกเขาไม่สามารถอธิบายได้ว่าเหตุใดพวกเขาจึงผลิตผลงานที่พวกเขาผลิต"

Ferrucci ยกตัวอย่างว่า GPT-3 ล้มเหลวในงานให้เหตุผลสามัญสํานึก ระบบดังกล่าวเมื่อได้รับข้อมูลที่เพียงพอ "จะเริ่มสะท้อนถึงสิ่งที่เราถือว่าเป็นสามัญสํานึก" เขากล่าวว่า "เหมือนกับการสํารวจดาวเคราะห์ดวงใหม่ มันเป็นสิ่งที่น่าทึ่ง" แต่ "ในที่สุดก็ไม่น่าพอใจ" เพราะมันเกี่ยวกับผลผลิตเท่านั้น ไม่ใช่เกี่ยวกับเหตุผลของผลผลิต นั้น

Ferrucci กล่าวว่า บริษัท ของเขากําลังดําเนินการตามแนวทาง "ไฮบริด" ที่ใช้แบบจําลองภาษาเพื่อสร้างสมมติฐานเป็นเอาต์พุตจากนั้นจึงใช้เหตุผลเหนือสิ่งนั้นโดยใช้ "แบบจําลองเชิงสาเหตุ" โมเดลดังกล่าว "สามารถเหนี่ยวนําได้" จากเอาต์พุต แต่ก็ต้องการให้มนุษย์โต้ตอบกับเครื่องจักรด้วย ซึ่งจะนําไปสู่ "การเป็นตัวแทนที่มีโครงสร้าง" ที่ด้านบนของโมเดลภาษา

David Ferrucci อดีตโครงการ IBM Watson

หลังจาก Ferrucci Dileep George กลับมาให้ประเด็นเกี่ยวกับสามัญสํานึกและ "การจําลองทางจิต" เขาอภิปรายว่ามนุษย์จะจินตนาการถึงสถานการณ์อย่างไร -- จําลอง -- เพื่อตอบคําถามเกี่ยวกับการให้เหตุผลสามัญสํานึก การจําลองช่วยให้บุคคลสามารถตอบคําถามมากมายเกี่ยวกับคําถามสมมุติฐานได้ 

จอร์จตั้งสมมติฐานว่าการจําลองมาจากระบบประสาทสัมผัสและถูกเก็บไว้ใน "ระบบการรับรู้+มอเตอร์"

จอร์จแนะนําว่าภาษา "เป็นสิ่งที่ควบคุมการจําลอง" เขาเสนอแนวคิดของการสนทนาว่าเป็นความพยายามของบุคคลหนึ่งที่จะ "เรียกใช้การจําลอง" ในคนอื่น 

มาร์คัสย้ายไปที่ Q&A เขาหยิบความคิดเห็นของ Ferrucci ที่ว่า "ความรู้ถูกฉายลงในภาษา"

"ตอนนี้เรามีกระบวนทัศน์นี้ที่เราสามารถรับความรู้มากมายจากโมเดลภาษาขนาดใหญ่" Marcus กล่าว เขากล่าวว่านั่นเป็นกระบวนทัศน์หนึ่ง Marcus แนะนําว่า "เราต้องการการเปลี่ยนแปลงกระบวนทัศน์" รวมถึงสิ่งที่จะ "รวมความรู้ใดๆ ที่คุณสามารถดึงมาจากภาษาเข้ากับส่วนที่เหลือทั้งหมด" Marcus กล่าวว่าแบบจําลองภาษานั้น "ขาด" อินพุตหลายประเภท 

Schmidhuber ผู้อํานวยการด้านวิทยาศาสตร์ของ The Swiss AI Lab IDSIA (Istituto Dalle Molle di Studi sull'Intelligenza Artificiale) กล่าว Schmidhuber ตอบ Marcus ว่า "นี่เป็นการถกเถียงเก่า" ซึ่งหมายถึงระบบที่มีแบบจําลองโลก "สิ่งเหล่านี้ล้วนเป็นแนวคิดจากยุค 80 และ 90" รวมถึงการเน้นที่ "ศูนย์รวม" Schmidhuber กล่าวว่าโมเดลภาษาล่าสุดนั้น "มีจํากัด เรารู้ว่า"

Jürgen Schmidhuber ผู้อํานวยการด้านวิทยาศาสตร์ของ The Swiss AI Lab IDSIA

แต่ Schmidhuber กล่าวว่ามีระบบเพื่อจัดการกับข้อบกพร่อง สิ่งต่างๆ เช่น เครือข่ายแยกต่างหากเพื่อทํานายผลที่ตามมา เพื่อทําการจําลองทางจิต ฯลฯ

"สิ่งที่เรากําลังพูดถึงในวันนี้ส่วนใหญ่ได้รับการแก้ไขอย่างน้อยในหลักการแล้วได้รับการแก้ไขเมื่อหลายปีก่อน" Schmidhuber กล่าวผ่าน "โครงข่ายประสาทเทียมเอนกประสงค์" ระบบดังกล่าว "ยังไม่ดีเท่ามนุษย์"

Schmidhuber กล่าวว่า "ความคิดเก่า" กําลังกลับมาเนื่องจากพลังการประมวลผลมีราคาถูกลงทุกๆ สองสามปี "เราสามารถทําสิ่งต่างๆ มากมายที่เราไม่สามารถทําได้ในตอนนั้นด้วยอัลกอริทึมเก่าเหล่านี้" 

มาร์คัสถาม Schmidhuber และ George เกี่ยวกับการทดลองเก่าของ SHRDLU ที่ดําเนินการโดย Terry Winograd หนึ่งในนักเรียนของ Minsky รวมถึง "โลกบล็อก" ของวัตถุง่ายๆ ที่จะตั้งชื่อและจัดการ Marcus กล่าวว่าเขาได้ยกขึ้นมาเป็นความท้าทาย โครงข่ายประสาทเทียม "Gato" ของ DeepMind สามารถทําสิ่งที่โลกล้มเหลวได้หรือไม่? "และจะเป็นเกณฑ์มาตรฐานที่สมเหตุสมผลสําหรับ AI ที่จะพยายามทําในสิ่งที่ Winograd ทําในวิทยานิพนธ์ของเขาในปี 1960 หรือไม่"

จอร์จตอบว่าหากเป็นเรื่องเกี่ยวกับระบบที่สามารถรับนามธรรมจากโลกและทํางานต่างๆ เช่น การซ้อนสิ่งต่างๆ ระบบดังกล่าวยังไม่สําเร็จ 

Schmidhuber ตอบว่าระบบคอมพิวเตอร์ทําได้ดีอยู่แล้วในการจัดการในการจําลอง เช่น วิดีโอเกม แต่ในโลกแห่งความเป็นจริง เป็นเรื่องของการเลือกการทดลองใหม่ "เหมือนนักวิทยาศาสตร์" โดยถาม "คําถามที่ถูกต้อง"

"ฉันจะคิดค้นโปรแกรมของตัวเองได้อย่างไรเพื่อให้ฉันสามารถเรียนรู้ได้อย่างมีประสิทธิภาพผ่านการทดลองของฉัน แล้วนําไปใช้กับแบบจําลองโลกที่ได้รับการปรับปรุงของฉัน" 

"ทําไมมันถึงยังไม่เหมือนภาพยนตร์" Schmidhuber ถาม

"เนื่องจากปัญหาเช่นนั้น ตัวอย่างการฝึกอบรมเพียงไม่กี่ตัวอย่างที่ต้องใช้ประโยชน์อย่างชาญฉลาด เราจึงไปถึงที่นั่นด้วยวิธีการของเซลล์ประสาทล้วนๆ แต่เรายังไม่ถึงจุดนั้น ไม่เป็นไรเพราะต้นทุนของการประมวลผลยังไม่เป็นไปตามที่เราต้องการ"

มาร์คัสเสริมว่ามีโลกแห่งความเป็นจริงและโลกจําลอง และประเด็นของการพยายามเชื่อมโยงพวกเขาผ่านภาษา เขาอ้างถึงข้อความภาษาธรรมชาติจากบล็อกโลก ระดับการสนทนาในโลกบล็อก Marcus กล่าวว่า "ฉันคิดว่ายังยากแม้ในการจําลอง" สําหรับ AI ในปัจจุบันที่จะบรรลุ

จากนั้น Marcus ก็หันไปหา Artur d'Avila Garcez ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่ City, University of London d'Avila Garcez เสนอว่าประเด็นนี้เป็นปัญหาหนึ่งของความเป็นมาแต่กําเนิดอีกครั้ง "เมื่อเร็ว ๆ นี้เราเห็นการเรียนรู้เชิงลึกที่มีข้อจํากัดมากมายเพิ่มนามธรรมเหล่านี้" โปรแกรมดังกล่าวเป็น "แอปพลิเคชันเฉพาะ" 

D'Avila Garcez กล่าวว่าอาจเป็นเรื่องของการรวม AI เชิงสัญลักษณ์เข้าด้วยกัน 

Choi ให้ความเห็นว่า "ในส่วนที่เกี่ยวข้องกับความเป็นมาแต่กําเนิด ฉันเชื่อว่ามีบางสิ่งที่ต้องเรียนรู้จากจิตวิทยาพัฒนาการ" เกี่ยวกับหน่วยงานและวัตถุ ตลอดจนเวลาและสถานที่ "อาจมีการคิดใหม่พื้นฐานบางอย่างที่เราต้องทําเพื่อจัดการกับแนวคิดบางอย่างให้แตกต่างออกไป"

Choi กล่าวว่า "ฉันไม่คิดว่าวิธีแก้ปัญหาจะอยู่ในอดีต" และ "แค่ใส่พารามิเตอร์หลายชั้น" แนวทางที่เป็นทางการบางอย่างในทศวรรษก่อนหน้านี้อาจไม่เข้ากันกับแนวทาง ปัจจุบัน

จอร์จกล่าวว่าองค์ประกอบบางอย่าง เช่น วัตถุอาจ "โผล่ออกมา" จากการทํางานระดับล่าง จอร์จกล่าวว่ามีข้อสันนิษฐานว่า "พื้นที่ถูกสร้างขึ้น" แต่ตอนนี้เขาเชื่อว่ามันสามารถได้มาจากกาลเวลา "คุณสามารถเรียนรู้การแสดงเชิงพื้นที่จากลําดับมอเตอร์ประสาทสัมผัสล้วนๆ - เพียงแค่เวลาและการกระทําล้วนๆ"

Francesca Rossi ซึ่งเป็นเพื่อนร่วมงานของ IBM และผู้นําระดับโลกด้านจริยธรรม AI ที่ Thomas J. Watson Research Center ได้ตั้งคําถามกับ Schmidhuber ว่า "ทําไมเราถึงเห็นระบบที่ยังไม่มีความสามารถที่เราต้องการมี คุณอธิบายได้อย่างไรว่าเทคนิคที่กําหนดไว้เหล่านั้นยังไม่ถูกนําไปใช้ในระบบปัจจุบัน"

Schmidhuber: "ฉันยินดีที่จะตอบคําถามนั้น ฉันเชื่อว่าส่วนใหญ่เป็นเรื่องของต้นทุนการคํานวณในขณะนี้"

Schmidhuber กล่าวต่อ

เครือข่ายที่เกิดซ้ําสามารถเรียกใช้อัลกอริทึมโดยพลการได้ และหนึ่งในแง่มุมที่สวยงามที่สุดก็คือสามารถเรียนรู้อัลกอริทึมการเรียนรู้ได้ คําถามใหญ่คืออัลกอริทึมใดที่สามารถเรียนรู้ได้ เราอาจต้องการอัลกอริทึมที่ดีกว่า ตัวเลือกในการปรับปรุงอัลกอริทึมการเรียนรู้ ระบบแรกในลักษณะนั้นปรากฏขึ้นในปี 1992 ฉันเขียนบทความฉบับแรกในปี 1992 ตอนนั้นเราแทบทําอะไรไม่ได้เลย วันนี้เราสามารถมีน้ําหนักนับล้านและหลายพันล้าน การทํางานล่าสุดกับนักเรียนของฉันแสดงให้เห็นว่าแนวคิดเก่า ๆ เหล่านี้พร้อมการปรับปรุงเล็กน้อยที่นี่และที่นั่นก็ทํางานได้อย่างสวยงามจริงๆ และคุณสามารถเรียนรู้อัลกอริธึมการเรียนรู้ใหม่ๆ ที่ดีกว่าการแพร่กระจายย้อนกลับ เป็นต้น 

มาร์คัสปิดส่วนด้วยการประกาศเกี่ยวกับบทความใหม่โดยตัวเขาเองและผู้ร่วมงานที่เรียกว่า "การเปรียบเทียบความคืบหน้าสําหรับการให้เหตุผลทางกายภาพระดับทารกใน AI" ซึ่งเขาเสนอว่า "เกี่ยวข้องกับสิ่งที่เราเพิ่งพูดถึง" มาร์คัสกล่าวว่าเอกสารจะถูกโพสต์บนเว็บไซต์การอภิปราย 

จากนั้น Marcus ได้นํา Ben Goertzel ซึ่งสวมหมวกหลายใบ ในฐานะหัวหน้านักวิทยาศาสตร์ที่ Hanson Robotics และหัวหน้ามูลนิธิ SingularityNET และ AGI Society เพื่อเริ่มต้นส่วนที่สาม โดยตั้งข้อสังเกตว่า Goertzel ได้ช่วยสร้างคําว่า "AGI"

Ben Goertzel หัวหน้านักวิทยาศาสตร์ของ Hanson Robotics

Goertzel ตั้งข้อสังเกตว่าโครงการปัจจุบันของเขาตั้งใจที่จะสร้าง AGI และ "เป็นตัวเป็นตนของระบบอัจฉริยะโดยทั่วไป" เขาแนะนําว่าระบบที่สามารถ "ก้าวกระโดดเกินกว่าการฝึกอบรม" นั้น "ตอนนี้ค่อนข้างเป็นไปได้" แม้ว่าอาจใช้เวลาสองสามปี เขายังทํานายว่าโปรแกรมการเรียนรู้เชิงลึกในปัจจุบันจะไม่คืบหน้ากับ AGI มากนัก ChatGPT "ไม่รู้ว่ามันกําลังพูดถึงอะไร" Goertzel กล่าว แต่ถ้ารวมกับ "ผู้ตรวจสอบข้อเท็จจริง บางทีคุณอาจทําให้มันพ่นเรื่องไร้สาระที่ชัดเจนน้อยลง แต่คุณก็ยังไม่สามารถทําให้มันสามารถสรุปได้เหมือนจิตใจของมนุษย์"

"สติปัญญาทั่วไป" Goertzel กล่าวว่าจะมีความสามารถมากขึ้นในจินตนาการและ "การเติบโตแบบเปิด"

Marcus กล่าวเสริมว่า "ฉันเห็นด้วยอย่างยิ่งกับคุณเกี่ยวกับการเรียนรู้เมตา" และเสริมว่า "ฉันชอบแนวคิดเกี่ยวกับถนนหลายเส้นทางสู่ AGI" 

จากนั้น Marcus ก็ปัดตํานานที่ว่า Yann LeCun จาก Meta และ Geoffrey Hinton และ Yoshua Bengio ผู้ชนะรางวัลทัวริงได้บุกเบิกการเรียนรู้เชิงลึก เขาแนะนํา Schmidhuber อีกครั้งว่า "ไม่เพียงแต่เขียนประวัติศาสตร์ที่ชัดเจนว่าการเรียนรู้เชิงลึกพัฒนาขึ้นอย่างไร แต่เขายังได้มีส่วนร่วมที่สําคัญมากมายในการเรียนรู้เชิงลึกมานานกว่าสามทศวรรษ"

"ฉันหลงใหลในแนวคิดของเมตาเลิร์นนิงนี้มากที่สุด เพราะดูเหมือนว่ามันจะครอบคลุมทุกสิ่งที่เราต้องการบรรลุ" Schmidhuber กล่าว เขากล่าวว่าหัวใจสําคัญคือ "การมีระบบประเภททั่วไปที่สามารถเรียนรู้สิ่งเหล่านี้ได้ทั้งหมด และขึ้นอยู่กับสถานการณ์ สภาพแวดล้อม และฟังก์ชันวัตถุประสงค์ มันจะประดิษฐ์อัลกอริทึมการเรียนรู้ที่เหมาะสมสําหรับปัญหาประเภทนี้และสําหรับปัญหาประเภทนี้ และอื่นๆ" ทั้งหมดนี้เป็นไปได้โดยใช้แนวทางที่ "แตกต่างได้" Schmidhuber กล่าว

Schmidhuber กล่าวเสริมว่า "สิ่งหนึ่งที่สําคัญจริงๆ ฉันคิดว่าคือแง่มุมของนักวิทยาศาสตร์ประดิษฐ์ของปัญญาประดิษฐ์ ซึ่งจริงๆ แล้วเกี่ยวกับการประดิษฐ์คําถามโดยอัตโนมัติที่คุณต้องการมีคําตอบ" 

Schmidhuber สรุปโดยกล่าวว่าเครื่องมือทั้งหมดมีอยู่จริง และ "มันเป็นเรื่องของการประกอบชิ้นส่วนปริศนาเหล่านี้เข้าด้วยกัน"

Marcus เสนอว่าเขา "เห็นด้วยอย่างยิ่ง" กับ Schmidhuber เกี่ยวกับหลักการของการเรียนรู้เมตา 

Rossi ตั้งชื่อการพูดคุยของเธอว่า "การคิดเร็วและช้าใน AI" ซึ่งเป็นการพาดพิงถึงหนังสือของ Daniel Kahneman ในชื่อเดียวกัน และอธิบาย "ระบบหลายตัวแทน" ที่เรียกว่า "SOFAI" หรือ AI ที่ช้าและเร็ว ซึ่งใช้ "ตัวแก้ปัญหา" ต่างๆ เพื่อเสนอวิธีแก้ปัญหา และโมดูล "เมตาความรู้ความเข้าใจ" เพื่ออนุญาโตตุลาการวิธีแก้ปัญหาที่เสนอ

Rossi อธิบายรายละเอียดเกี่ยวกับการรวมกันของ "สองรูปแบบกว้าง ๆ " ที่เรียกว่า "การตัดสินใจตามลําดับในกริดที่มีข้อจํากัด" และ "การวางแผนเชิงสัญลักษณ์แบบคลาสสิกและญาณ"

Rossi ได้นําเสนออย่างเน้นย้ําสําหรับมนุษย์ในลูป โดยระบุว่าสถาปัตยกรรมที่รวมกันสามารถขยายวิธีการตัดสินใจของมนุษย์ "ไปยังผู้ที่ไม่ใช่มนุษย์" จากนั้นให้เครื่องจักร "โต้ตอบกับมนุษย์ในลักษณะที่กระตุ้นให้มนุษย์ใช้ระบบที่หนึ่งหรือระบบที่สองของเขาหรือเธอ หรืออภิปัญญาของเขาหรือเธอ"

"ดังนั้นนี่เป็นวิธีผลักดันให้มนุษย์ใช้หนึ่งในสามรูปแบบนี้ตามประเภทของข้อมูลที่ได้มาจากสถาปัตยกรรม SOFAI" ดังนั้นการคิดเร็วและช้าจะเป็นแบบจําลองสําหรับวิธีการสร้างเครื่องจักรและเป็นแบบจําลองสําหรับวิธีที่มันมีปฏิสัมพันธ์กับผู้คน 

Francesca Rossi เพื่อนร่วมงาน IBM และผู้นําระดับโลกด้านจริยธรรม AI ที่ Thomas J. Watson Research Center

หลังจาก Rossi Jeff Clune รองศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์แห่งมหาวิทยาลัยบริติชโคลัมเบียถูกนํามาอภิปรายเกี่ยวกับ "อัลกอริทึมการสร้าง AI: เส้นทางที่เร็วที่สุดสู่ AGI"

Clune กล่าวว่า AI ในปัจจุบันกําลังใช้ "เส้นทางด้วยตนเองไปยัง AI" โดย "การระบุส่วนประกอบ" นั่นหมายถึงกฎการเรียนรู้และฟังก์ชันวัตถุประสงค์ทุกประเภท ฯลฯ ซึ่งเขามีสไลด์ทั้งหมด แต่นั่นทําให้ความท้าทายในการรวมโครงสร้างทั้งหมดเข้าด้วยกัน "ความท้าทายที่ยิ่งใหญ่" Clune กล่าว

ในทางปฏิบัติวิธีการที่ออกแบบด้วยมือหลีกทางให้กับแนวทางที่สร้างขึ้น โดยอัตโนมัติ

Clune เสนอ "สามเสาหลัก" ที่จะผลักดัน: "เราจําเป็นต้องเรียนรู้สถาปัตยกรรมแบบเมตา เราจําเป็นต้องเรียนรู้อัลกอริทึมแบบเมตา และที่สําคัญที่สุด เราต้องสร้างสภาพแวดล้อมการเรียนรู้และ/หรือข้อมูลที่มีประสิทธิภาพโดยอัตโนมัติ" 

Clune สังเกตเห็นว่า AI ปรับปรุงโดย "ยืนบนไหล่" ของความก้าวหน้าต่างๆ เช่น GPT-3 เขายกตัวอย่างโครงการ OpenAI ที่วิดีโอของผู้คนที่เล่นเกมนํา "การเร่งความเร็วครั้งใหญ่" มาสู่เครื่องที่เล่น Minecraft

Clune แนะนําให้เพิ่ม "เสาหลักที่สี่" กล่าวคือ "การใช้ประโยชน์จากข้อมูลของมนุษย์"

Clune คาดการณ์ว่ามีการเปลี่ยนแปลง 30% ในการบรรลุ AGI ภายในปี 2030 ตามที่กําหนดว่าเป็น "สามารถทํางานได้มากกว่า 50% ของงานมนุษย์ที่มีคุณค่าทางเศรษฐกิจ" Clune เสริมว่าเส้นทางนั้น "อยู่ในกระบวนทัศน์ปัจจุบัน" ซึ่งหมายความว่าไม่จําเป็นต้องมีกระบวนทัศน์ใหม่

Clune ปิดท้ายด้วยข้อความว่า "เรายังไม่พร้อม" สําหรับ AGI "เราต้องเริ่มวางแผนตอนนี้"

มาร์คัสกล่าวว่า "ฉันจะเดิมพันของคุณ" ประมาณ 30% โอกาสของ AGI ในปี 2030

Jeff Clune รองศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่มหาวิทยาลัยบริติชโคลัมเบีย

ตามมาด้วย Sara Hooker ซึ่งเป็นหัวหน้าห้องปฏิบัติการวิจัยที่ไม่แสวงหาผลกําไร Cohere For AI พูดคุยในหัวข้อ "ทําไมความคิดบางอย่างถึงประสบความสําเร็จและบางความคิดล้มเหลว" 

"อะไรคือส่วนผสมที่เราต้องการสําหรับความก้าวหน้า" ฮุคเกอร์เสนอเป็นประเด็น

ใช้เวลาสามทศวรรษนับตั้งแต่การประดิษฐ์ back-prop และ convolutions ในช่วงทศวรรษที่ 60, 70 และ 80 เพื่อไปสู่การเรียนรู้เชิงลึกที่ได้รับการยอมรับ ทําไม เธอถาม

คําตอบคือการเพิ่มขึ้นของ GPU เธอกล่าว "ความบังเอิญที่มีความสุข"

"มันเป็นโชคดีของไอเดียที่ประสบความสําเร็จในการเข้ากันได้กับเครื่องมือที่มีอยู่" Hooker เสนอ 

Sara Hooker หัวหน้าห้องปฏิบัติการวิจัยที่ไม่แสวงหาผลกําไร Cohere For AI

Hooker กล่าวว่าความก้าวหน้าครั้งต่อไปจะต้องใช้อัลกอริทึมใหม่และฮาร์ดแวร์และซอฟต์แวร์ใหม่ เธอกล่าวว่าโลก AI ได้เพิ่ม "เป็นสองเท่า" ในกรอบการทํางานปัจจุบัน "เอนเอียงไปทางตัวเร่งความเร็วเฉพาะทาง" ซึ่ง "เราได้ยอมแพ้ความยืดหยุ่น" 

Hooker กล่าวว่าระเบียบวินัยได้ถูกล็อคไว้ในฮาร์ดแวร์และด้วยเหตุนี้ "สมมติฐาน" ที่ไม่ดีเช่นการปรับขนาดของโครงข่ายประสาทเทียมเพียงอย่างเดียวสามารถประสบความสําเร็จได้ เธอกล่าวว่านั่นทําให้เกิดปัญหา เช่น ค่าใช้จ่ายมหาศาลในการ "จดจําหางยาว" ของปรากฏการณ์ 

Hooker กล่าวว่าความคืบหน้าจะหมายถึง "การลดต้นทุนของการผสมผสานฮาร์ดแวร์-ซอฟต์แวร์-อัลกอริทึมที่แตกต่างกัน"

จากนั้น Marcus ก็หยิบยก D'Avila Garcez ขึ้นมาอีกครั้งเพื่อนําเสนอสไลด์ของเขาเกี่ยวกับ "AI ที่ยั่งยืน"

"ถึงเวลาแล้วที่จะเริ่มพูดถึง AI ที่ยั่งยืนโดยสัมพันธ์กับเป้าหมายความยั่งยืนของสหประชาชาติ" D'Avila Garcez กล่าว

D'Avila Garcez กล่าวว่าข้อจํากัดของการเรียนรู้เชิงลึก "ชัดเจนมาก" ตั้งแต่การอภิปราย AI ครั้งแรก รวมถึงความยุติธรรม ประสิทธิภาพการใช้พลังงาน ความแข็งแกร่ง การให้เหตุผล และความไว้วางใจ

"ข้อจํากัดเหล่านี้มีความสําคัญเนื่องจากความสําเร็จอันยิ่งใหญ่ของการเรียนรู้เชิงลึก" D'Avila Garcez เสนอ AI เชิงสัญลักษณ์ทางประสาทเป็นเส้นทางไปข้างหน้า งานที่เกี่ยวข้องเกี่ยวกับสัญลักษณ์ประสาทย้อนกลับไปในปี 1990 D'Avila Garcez กล่าว และเขาอ้างถึงเนื้อหาพื้นฐานที่ http://www.neural-symbolic.org

D'Avila Garcez เสนองานที่สําคัญหลายประการ รวมถึง "มาตรการของความไว้วางใจและความรับผิดชอบ" และ "ความเที่ยงตรงของคําอธิบาย" และความสอดคล้องกับเป้าหมายการพัฒนาที่ยั่งยืน ไม่ใช่แค่ "ผลลัพธ์ที่ถูกต้อง" 

Artur d'Avila Garcez ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่ City มหาวิทยาลัยลอนดอน 

การเรียนรู้หลักสูตรจะมีความสําคัญอย่างยิ่ง D'Avila Garcez กล่าว เขาตั้งข้อสังเกตว่า "กรอบความหมาย" สําหรับ AI สัญลักษณ์ประสาทเป็นเอกสารใหม่ที่จะออกในไม่ช้า

Clune เริ่มต้นการถามตอบด้วยคําถามว่า "คุณไม่เห็นด้วยหรือ ChatGPT มีข้อบกพร่องเหล่านั้นน้อยกว่า GPT-3 และ GPT-3 มีข้อบกพร่องน้อยกว่า GPT-2 และ GPT-1 ถ้าเป็นเช่นนั้น สิ่งที่แก้ไขข้อบกพร่องเหล่านั้นคือคู่มือเดียวกัน เหตุใดเราจึงควรสรุปว่าเราควรหยุดและเพิ่มโครงสร้างมากกว่าที่จะยอมรับกระบวนทัศน์ปัจจุบันของการขยายขนาด"

จอร์จเสนอคําตอบแรก "เห็นได้ชัดว่าการปรับขนาดจะนํามาซึ่งผลลัพธ์ที่น่าประทับใจมากขึ้น" แต่ "ฉันไม่เห็นด้วยว่าข้อบกพร่องมีน้อยลง" จอร์จกล่าว "ระบบกําลังปรับปรุง แต่นั่นเป็นคุณสมบัติของอัลกอริทึมจํานวนมาก มันเป็นคําถามเกี่ยวกับประสิทธิภาพการปรับขนาด"

Choi ตอบว่า "ChatGPT ไม่ใหญ่กว่า GPT-3 DaVinci แต่ได้รับการฝึกฝนที่ดีกว่าผ่านข้อเสนอแนะของมนุษย์จํานวนมาก ซึ่งมาจากคําอธิบายประกอบของมนุษย์" Choi กล่าวว่าโปรแกรมนี้ได้สร้างข่าวลือว่า "พวกเขา [OpenAI] อาจใช้เงินมากกว่า 10 ล้านดอลลาร์ในการสร้างข้อมูลที่มีคําอธิบายประกอบของมนุษย์ ดังนั้น มันอาจเป็นกรณีของข้อมูลด้วยตนเองมากขึ้น" Choi ปฏิเสธแนวคิดว่า ChatGPT ดีกว่า

Choi กล่าวว่าโปรแกรมนั้นน่าตื่นเต้น แต่ "ฉันไม่คิดว่าเรารู้ว่าความกว้างและความลึกของเคสมุมคืออะไร ฉันสงสัยว่ามันเป็นสัตว์ประหลาดที่ใหญ่กว่าที่เราคาดไว้มาก" ช่องว่างระหว่างสติปัญญาของมนุษย์กับ GPT เวอร์ชันต่อไปนั้น "ใหญ่กว่าที่เราคาดไว้ในปัจจุบันมาก"

มาร์คัสเสนอการวิพากษ์วิจารณ์ของตัวเอง: "ความเสี่ยงที่นี่คือการปิดก่อนเวลาอันควร เราเลือกคําตอบที่เราคิดว่าใช้ได้ผล แต่ไม่ถูกต้อง"

จากนั้นกลุ่มก็พักการประชุมเป็นเวลา 5 นาที 

หลังจากพัก Michelle Rempel Garner สมาชิกรัฐสภาแคนาดาเป็นคนแรกที่นําเสนอ

Marcus แนะนํา Rempel Garner ว่าเป็นหนึ่งในคนกลุ่มแรกๆ ในรัฐบาลที่แสดงความกังวลเกี่ยวกับ ChatGPT 

Rempel Garner เสนอ "ความคิดเห็นของนักการเมือง" เธอกล่าวว่าไทม์ไลน์ของการมาถึงของ AGI นั้น "ไม่แน่นอน" แต่ที่สําคัญคือการขาดความแน่นอนว่ารัฐบาลควรเข้าหาเรื่องนี้อย่างไร "ความพยายามที่เกิดขึ้นนั้นมุ่งเน้นไปที่กรอบการลงโทษที่ค่อนข้างแคบ" เธอกล่าวว่านั่นเป็นปัญหาเนื่องจากเป็นท่าทาง "ปฏิกิริยา" ที่ไม่ตรงกับความเร็วของการพัฒนาเทคโนโลยี "วาทกรรมในปัจจุบันเกี่ยวกับบทบาทของรัฐบาลมีแนวโน้มที่จะเป็นแนวทางที่ไร้เดียงสาและมองโลกในแง่ร้าย" 

สมาชิกรัฐสภาแคนาดา Michelle Rempel Garner

Rempel Garner กล่าวว่ารัฐบาลมี "คันโยก" ที่สําคัญที่อาจเป็นประโยชน์ในการกระตุ้นการวิจัยในวงกว้างนอกเหนือจากทุนเอกชน แต่รัฐบาลประสบปัญหาในการใช้คันโยก หนึ่งคือขนบธรรมเนียมทางสังคมไม่ได้ปรับให้เข้ากับเทคโนโลยีใหม่เสมอไป และรัฐบาลมักจะดําเนินการในบริบทที่พวกเขาถือว่ามนุษย์เป็นรูปแบบเดียวของความรู้ความเข้าใจ รัฐบาลไม่ได้จัดตั้งขึ้นเพื่อพิจารณาว่ามนุษยชาติแบ่งปันโลกกับความรู้ความเข้าใจในรูปแบบอื่น

Rempel Garner กล่าวว่า "ความกังวลของฉันในฐานะสมาชิกสภานิติบัญญัติคือรัฐบาลของเรากําลังดําเนินการในบริบทที่มนุษย์เป็นจุดสูงสุดของความเชี่ยวชาญ" แต่ "รัฐบาลควรจินตนาการถึงโลกที่อาจไม่เป็นเช่นนั้น" 

Rempel Garner เสนอ "ประสบการณ์จริง" ในการพยายามผ่านร่างกฎหมายในรัฐสภาเกี่ยวกับ Web3 เธอรู้สึกประหลาดใจที่พบว่ามันกลายเป็น "การฝึกพรรคพวก" และกล่าวว่า "พลวัตนี้ไม่สามารถปล่อยให้เกิดขึ้นซ้ํากับ AGI"  

เธอกล่าวต่อว่า "รัฐบาลต้องสร้างสรรค์สิ่งใหม่ๆ และก้าวข้ามกระบวนทัศน์การดําเนินงานในปัจจุบันเพื่อตอบสนองความท้าทายและโอกาสที่การพัฒนา AGI นําเสนอ แม้จะมีช่วงเวลาของการเกิดขึ้นของ AGI ไม่แน่นอน เนื่องจากความเข้มงวดแบบดั้งเดิมของรัฐบาล

Choi ติดตาม Rempel Garner ด้วยการนําเสนอครั้งที่สอง เพื่ออธิบายรายละเอียดเกี่ยวกับจุดยืนของเธอว่า "ความปลอดภัยของ AI" "ความเสมอภาค" และ "ศีลธรรม" จะรวมกันอย่างไร

Choi อ้างถึงตัวอย่างที่ไม่ดีของ ChatGPT ที่ละเมิดสามัญสํานึกและเสนอคําแนะนําที่เป็นอันตรายเพื่อตอบคําถาม 

Choi อธิบายต้นแบบการวิจัย "Delphi" เพื่อสร้าง "แบบจําลองทางศีลธรรมสามัญสํานึก" บนแบบจําลองภาษา เธอกล่าวว่าเดลฟีจะสามารถคาดเดาได้ว่าคําพูดบางอย่างอาจเป็นข้อเสนอแนะ ที่อันตราย

Delphi สามารถ "สอดคล้องกับบรรทัดฐานทางสังคม" ผ่านการเรียนรู้แบบเสริมแรง แต่ไม่ใช่โดยปราศจาก "ความรู้มาก่อน" Choi กล่าว Choi กล่าวว่าความจําเป็นในการสอน "คุณค่าของมนุษย์" นําไปสู่ความต้องการ "พหุนิยมคุณค่า" ซึ่งเป็นความสามารถในการมี "ระบบ AI ที่ปลอดภัย" ที่จะเคารพระบบวัฒนธรรมที่หลากหลาย

จากนั้น Marcus ก็หยิบยก Anja Kaspersen จาก Carnegie Council on AI Ethics 

Kaspersen แบ่งปันข้อสังเกตหกข้อเพื่อส่งเสริมการอภิปรายเกี่ยวกับคําถามที่ว่า "ใครจะเป็นผู้ตัดสินใจ" เกี่ยวกับงาน AGI และ "AI ยืนอยู่ตรงไหนในเรื่องการกระจายพลังงาน"

ธีมแรกของเธอคือ "สภาพของมนุษย์จะได้รับการปรับปรุงผ่านเทคโนโลยีดิจิทัลและ AI หรือ AI จะเปลี่ยนสภาพของมนุษย์"

"ฉันเห็นว่ามีความเสี่ยงที่แท้จริงในเป้าหมายปัจจุบันของการพัฒนา AI ที่อาจบิดเบือนความหมายของการเป็นมนุษย์" Kaspersen "สิ่งจูงใจในปัจจุบันมุ่งเน้นไปที่ด้านทดแทน [เช่น การแทนที่มนุษย์] มากกว่าระบบ AI ที่มีจุดมุ่งหมายเพื่อเพิ่มศักดิ์ศรีและความเป็นอยู่ที่ดีของมนุษย์"

"ถ้าเราไม่เปลี่ยนเส้นทางทั้งหมดนั้น เราเสี่ยงต่อการสมรู้ร่วมคิดและทําลายรากฐานของความหมายของการเป็นมนุษย์และคุณค่าที่เรามอบให้กับการเป็นมนุษย์และป้อนเข้าสู่ระบอบเผด็จการ" 

ประการที่สอง "พลังของการเล่าเรื่องและอันตรายของสิ่งที่ฉันเรียกว่าลัทธิวิทยาศาสตร์ที่ไม่มีการตรวจสอบ" 

Anja Kaspersen นักวิชาการอาวุโสของสภาคาร์เนกีว่าด้วยจริยธรรม AI

"เมื่อพูดถึงเทคโนโลยีที่มีผลกระทบอย่างลึกซึ้งและลึกซึ้งต่อระบบสังคมและการเมือง เราต้องคํานึงถึงการจัดหาเลนส์แบบลดทอนจากล่างขึ้นบน ซึ่งลัทธิวิทยาศาสตร์จะกลายเป็นจริยธรรมวิทยา"

มีอันตรายจาก "แก๊สไลท์ของเผ่าพันธุ์มนุษย์" เธอกล่าว ด้วยการเล่าเรื่องที่ "เน้นข้อบกพร่องในความสามารถของมนุษย์แต่ละคน"

Kaspersen อ้างถึงตัวอย่างของนักวิทยาศาสตร์ J. Robert Oppenheimer ซึ่งกล่าวสุนทรพจน์ในปี 1963: "เขากล่าวว่า เป็นไปไม่ได้ที่จะเป็นนักวิทยาศาสตร์ เว้นแต่คุณจะเชื่อว่าความรู้เกี่ยวกับโลกและอํานาจที่มอบให้เป็นสิ่งที่มีคุณค่าที่แท้จริงสําหรับมนุษยชาติ" แนวคิดของออปเพนไฮเมอร์เกี่ยวกับผลที่ตามมา เธอกล่าวว่าได้ย้ายจากคนในการตัดสินใจไปสู่ตอนนี้นักวิทยาศาสตร์เอง

ประการที่สาม AI เป็น "เรื่องราวเกี่ยวกับอํานาจ" เธอกล่าว "การปฏิวัติปัจจุบัน" ของข้อมูลและอัลกอริทึมคือ "การกระจายอํานาจ" เธออ้างถึงประเด็นของ Marcus เกี่ยวกับหลุมพรางของ "การแยกส่วน"

"คนที่พยายามพูดถูกแก๊สไลท์และผลักดันกลับและกลั่นแกล้ง" เธอกล่าว

ประการที่สี่ เธอกล่าวว่า "พลังของสังคมศาสตร์ทั้งหมด" ยืมมาจากนักสังคมวิทยา Pierre Bourdieu และคําถามที่ว่าใครในสังคมมี "ความสนใจมากที่สุดในการจัดการปัจจุบัน" และใน "การรักษาประเด็นบางอย่างให้ห่างจากวาทกรรมสาธารณะ" 

ประการที่ห้า Kaspersen กล่าวว่าคือปัญหาที่วิธีการแก้ไขปัญหา AI กลายเป็น "เสื้อคลุมล่องหนด้านธรรมาภิบาล" ซึ่งเป็นวิธีที่จะ "ปกปิดปัญหาและข้อจํากัดของวิธีการและระบบทางวิทยาศาสตร์ของเราในนามของการจัดการ"

ประเด็นที่หกและประเด็นสุดท้ายของ Kaspersen คือ "ความสับสนบางอย่างเกี่ยวกับการฝังจริยธรรมในโดเมนนี้หมายความว่าอย่างไร" ซึ่งหมายถึง AI Kaspersen กล่าวว่าประเด็นสําคัญคือวิทยาการคอมพิวเตอร์ไม่ได้เป็นเพียง "ทฤษฎี" อีกต่อไป แต่ "มันได้กลายเป็นคุณลักษณะที่กําหนดของชีวิตที่มีผลกระทบอย่างลึกซึ้งและลึกซึ้งต่อความหมายของการเป็นมนุษย์"

หลังจาก Kaspersen Clune และ Rossi ได้กล่าวสั้น ๆ เพื่อตอบกลับ

Clune กล่าวว่าเขากําลังตอบคําถามที่ว่า "เราควรตั้งโปรแกรมเครื่องจักรให้มีค่าที่ชัดเจนหรือไม่"

"คําตอบของฉันคือ ไม่" เขากล่าว เขากล่าวว่า คําถามนั้น "สําคัญ" เพราะ AGI กําลังจะมาถึง มันจะถักทอและส่งผลกระทบต่อชีวิตของเราเกือบทุกด้าน"

Clune กล่าวว่า "เดิมพันไม่สามารถสูงไปกว่านี้ได้ เราต้องปรับจริยธรรมและค่านิยมของ AI ให้สอดคล้องกับจริยธรรมและค่านิยมของเราเอง" แต่ค่านิยมไม่ควรถูกฮาร์ดโค้ดเพราะ "ข้อ 1 สัญญาณทั้งหมดชี้ไปที่ [แนวคิดที่ว่า] AI หรือ AGI ที่เรียนรู้จะมีประสิทธิภาพเหนือกว่าสิ่งที่เข้ารหัสด้วยมืออย่างมาก และสังคมจะจบลงด้วยการนํา AI ที่ทรงพลังที่สุดมาใช้" และเหตุผลที่ 2 "เราไม่รู้ว่าจะเขียนโปรแกรมจริยธรรมอย่างไร" "มันซับซ้อนเกินไป" เขากล่าว และเสริมว่า "ดูงานของ Asimov เกี่ยวกับกฎสามข้อ เป็นต้น" โดยอ้างถึงกฎสามข้อของหุ่นยนต์ของ Isaac Asimov

Clune แนะนําวิธีที่ดีที่สุดในจริยธรรมคือการใช้การเรียนรู้แบบเสริมแรงรวมกับข้อเสนอแนะของมนุษย์ รวมถึง "กระแสตัวอย่าง การอภิปราย การอภิปราย กรณีขอบที่ไม่มีวันสิ้นสุด"

Clune แนะนําว่าอันตรายที่ร้ายแรงที่สุดคือสิ่งที่เกิดขึ้นเมื่อ AI และ AGI "ถูกสร้างขึ้นโดยนักแสดงที่ไร้ยางอาย" โดยเฉพาะอย่างยิ่งเมื่อโมเดลภาษาขนาดใหญ่ฝึกฝนได้ง่ายขึ้นเรื่อยๆ

Rossi ตั้งข้อสังเกตว่า "คําถามคือเราควรฝังค่านิยมในระบบ AI หรือไม่" โดยระบุว่า "คําตอบของฉันคือใช่"

ไม่สามารถรับค่าได้ "เพียงแค่ดูข้อมูลหรือเรียนรู้จากข้อมูล" Rossi กล่าว ดังนั้น "มันต้องการข้อมูลของมนุษย์ มันต้องการกฎเกณฑ์ มันต้องการแนวทางเชิงสัญลักษณ์ทางประสาทสําหรับการฝังค่าเหล่านี้และกําหนดไว้" แม้ว่ามันอาจเป็นไปไม่ได้ที่จะฮาร์ดโค้ดค่า Rossi กล่าว "เมื่อถึงจุดหนึ่งพวกเขาจําเป็นต้องถูกมองอย่างชัดเจนจากภายนอก"

หลังจากรอสซี่ เฟอร์รุชชีได้ให้ข้อสังเกตสั้น ๆ เกี่ยวกับสองประเด็น หนึ่ง "ความโปร่งใสเป็นสิ่งสําคัญ" เขากล่าว "ระบบ AI ควรสามารถอธิบายได้ว่าเหตุใดพวกเขาจึงตัดสินใจ" แต่เขากล่าวว่าความโปร่งใสไม่ได้ขจัดความจําเป็นในระบบคุณค่าที่ "ออกแบบไว้ที่ไหนสักแห่งและตกลงกัน"

Ferrucci กล่าวว่า "คุณไม่ต้องการอยู่ในสถานการณ์ที่มีการตัดสินใจที่น่ากลัว และไม่เป็นไรที่คุณจะสามารถอธิบายได้ในที่สุด คุณต้องการให้การตัดสินใจเหล่านั้นสอดคล้องกับสิ่งที่สมเหตุสมผลโดยรวม และต้องกําหนดไว้ล่วงหน้า"

Choi ติดตาม Ferrucci โดยสังเกตว่ามนุษย์มักไม่เห็นด้วยกับศีลธรรม "มนุษย์สามารถรู้ได้ว่าผู้คนไม่เห็นด้วยเมื่อใด" "ฉันคิดว่า AI ควรจะสามารถทําอย่างนั้นได้"

Erik Brynjolfsson จากสถาบันสแตนฟอร์ดเพื่อ AI ที่เน้นมนุษย์เป็นศูนย์กลาง

สําหรับส่วนสุดท้าย Erik Brynjolfsson ซึ่งเป็นศาสตราจารย์ Jerry Yang และ Akiko Yamazaki และนักวิจัยอาวุโสที่ Stanford Institute for Human-Centered AI (HAI) และผู้อํานวยการห้องปฏิบัติการเศรษฐกิจดิจิทัลของสแตนฟอร์ด เริ่มต้นด้วยการตั้งข้อสังเกตว่า "คํามั่นสัญญาของ AI ที่เหมือนมนุษย์คือการเพิ่มผลผลิต เพลิดเพลินไปกับการพักผ่อนมากขึ้น และอาจจะลึกซึ้งที่สุด เพื่อปรับปรุงความเข้าใจในจิตใจของเราเอง"

Brynjolfsson กล่าวว่า "เกมเลียนแบบ" ของ Alan Turing บางส่วนกําลังสมจริงมากขึ้นในขณะนี้ แต่มีสายพันธุ์อื่นนอกเหนือจากการเลียนแบบมนุษย์ และนั่นคือ AI ที่ทําสิ่งที่เสริมหรือเสริมมนุษย์ 

"การวิจัยของฉันที่ MIT พบว่าการเพิ่มหรือเสริมมนุษย์มีประโยชน์ทางเศรษฐกิจมากกว่า AI ที่เพียงแค่ทดแทนหรือเลียนแบบแรงงานมนุษย์" Brynjolfsson กล่าว

เขากล่าวว่าน่าเสียดายที่ผู้มีส่วนได้ส่วนเสียสามประเภท ได้แก่ นักเทคโนโลยี นักอุตสาหกรรม และผู้กําหนดนโยบาย มีแรงจูงใจที่ "ไม่ตรงกันมากและสนับสนุนการทดแทนแรงงานมนุษย์มากกว่าการเพิ่ม"

และ "หากสังคมยังคงไล่ตาม AI หลายประเภทที่เลียนแบบความสามารถของมนุษย์" Brynjolfsson กล่าว "เราจะจบลงด้วยกับดักทางเศรษฐกิจ" กับดักนั้นซึ่งเขาเรียกว่ากับดักทัวริงจะจบลงด้วยการสร้างผลประโยชน์ที่ ค่อนข้างบิดเบือน

"ลองนึกภาพว่าถ้า Daedalus ได้พัฒนาหุ่นยนต์" ในตํานานกรีก "พวกเขาประสบความสําเร็จในการทํางานอัตโนมัติในเวลานั้น 3,000 ปีที่แล้ว และหุ่นยนต์ของเขาประสบความสําเร็จในการทําให้งานแต่ละอย่างที่ชาวกรีกโบราณทําในเวลานั้นเป็นไปโดยอัตโนมัติ" เช่น เครื่องปั้นดินเผาและการทอผ้า "ข่าวดีก็คือ ไม่จําเป็นต้องใช้แรงงานมนุษย์อีกต่อไป ผู้คนจะใช้ชีวิตแบบสบาย แต่คุณก็เห็นได้เช่นกันว่านั่นจะไม่เป็นโลกที่มีมาตรฐานการครองชีพสูงเป็นพิเศษ"

"เพื่อยกระดับคุณภาพชีวิตอย่างมาก" Brynjolfsson กล่าว "เราไม่สามารถสร้างเครื่องจักรที่ทดแทนแรงงานมนุษย์และเลียนแบบได้ เราต้องขยายขีดความสามารถของเราและทําสิ่งใหม่ๆ "

นอกจากนี้ Brynjolfsson กล่าวว่าระบบอัตโนมัติช่วยเพิ่มความเข้มข้นของอํานาจทางเศรษฐกิจ เช่น การลดค่าจ้าง

เทคโนโลยีในปัจจุบันไม่ได้เพิ่มความสามารถของมนุษย์ ซึ่งแตกต่างจากเทคโนโลยีในช่วง 200 ปีก่อนหน้านี้ที่เพิ่มความสามารถของมนุษย์ 

"เราต้องจริงจังกับเทคโนโลยีที่เสริมมนุษย์" เขากล่าว เพื่อสร้างพายทางเศรษฐกิจที่ใหญ่ขึ้น แต่ยังเป็นพายที่กระจายความมั่งคั่งอย่างเท่าเทียมกันมากขึ้น เขาโต้แย้งว่าปัญหาเชิงระบบคือแรงจูงใจที่บิดเบือนของผู้มีส่วนได้ส่วนเสียทั้งสามนักเทคโนโลยีนักอุตสาหกรรมและผู้กําหนดนโยบาย

Brynjolfsson ตามมาด้วย Kai-Fu Lee อดีตผู้บริหารของ Google และ Microsoft และปัจจุบันเป็นหัวหน้าบริษัทร่วมทุน Sinovation Ventures ลีอ้างถึงหนังสือเล่มใหม่ของเขา AI 2041 เสนอให้ "โต้เถียงตัวเอง" 

Kai-Fu Lee อดีตผู้บริหารของ Google และ Microsoft และปัจจุบันเป็นหัวหน้าบริษัทร่วมทุน Sinovation Ventures

เขานําเสนอมุมมองเชิงบวกส่วนใหญ่เกี่ยวกับ "พลังที่น่าทึ่ง" ของ AI และโดยเฉพาะอย่างยิ่ง "AIGC" เนื้อหาที่สร้างโดย AI รวมถึง "การแสดงความสามารถที่น่าอัศจรรย์ที่แสดงพฤติกรรมที่ชาญฉลาดและมีความสามารถอย่างไม่น่าเชื่อ" โดยเฉพาะอย่างยิ่งในขอบเขตเชิงพาณิชย์ เช่น การเปลี่ยนกระบวนทัศน์ของเครื่องมือค้นหา และแม้กระทั่งการเปลี่ยนการทํางานของ TikTok สําหรับการโฆษณา

"แต่วันนี้ ฉันต้องการพูดคุยเกี่ยวกับอันตรายที่อาจเกิดขึ้นเป็นส่วนใหญ่"

ในอดีต Lee กล่าวว่า "ฉันสามารถนึกถึงอัลกอริทึมหรืออย่างน้อยก็จินตนาการถึงโซลูชันทางเทคโนโลยี" สําหรับ "ภายนอก" ที่สร้างขึ้นโดยโปรแกรม AI "แต่ตอนนี้ฉันติดขัดเพราะฉันไม่สามารถจินตนาการถึงวิธีแก้ปัญหาง่ายๆ สําหรับข้อมูลที่ผิดที่สร้างขึ้นโดย AI ว่าเป็นข้อมูลที่ผิดที่กําหนดเป้าหมายโดยเฉพาะซึ่งมีประสิทธิภาพในเชิงพาณิชย์" Lee กล่าว

จะเกิดอะไรขึ้นถ้า Lee กล่าวว่า Amazon Google หรือ Facebook สามารถ "กําหนดเป้าหมายแต่ละคนและทําให้เข้าใจผิด [...] และให้คําตอบที่อาจดีมากสําหรับ บริษัท เชิงพาณิชย์เพราะมีความไม่สอดคล้องกันพื้นฐานของผลประโยชน์เพราะ บริษัท ขนาดใหญ่ต้องการให้เราดูผลิตภัณฑ์ดูเนื้อหาและคลิกและดูและกลายเป็นเสพติด [เพื่อให้] ผลิตภัณฑ์รุ่นต่อไป [...] มีความอ่อนไหวต่ออํานาจของทุนนิยมและความโลภที่ บริษัท สตาร์ทอัพ และ VC จะให้ทุน กิจกรรมที่จะสร้างความมั่งคั่งมหาศาล ทําลายอุตสาหกรรมด้วยเทคโนโลยีที่ควบคุมได้ยากมาก"

เขากล่าวว่านั่นจะทําให้ "ยักษ์ใหญ่" ซึ่งเป็นบริษัทที่ควบคุม "โมเดลรากฐาน" ของ AI มีพลังมาก ยิ่งขึ้น

"และอันตรายที่ยิ่งใหญ่ประการที่สองคือสิ่งนี้จะจัดหาชุดเทคโนโลยีที่จะช่วยให้ผู้มีบทบาทที่ไม่ใช่รัฐและผู้ที่ต้องการใช้ AI เพื่อความชั่วร้ายได้ง่ายกว่าที่เคย" ลีแนะนําความเป็นไปได้ของเรื่องอื้อฉาวสไตล์ Cambridge Analytica ที่เลวร้ายยิ่งกว่า Cambridge Analytica มาก เพราะจะขับเคลื่อนโดย AIGC ที่ซับซ้อนกว่า เขาแนะนําว่านักแสดงที่ไม่ใช่รัฐอาจ "นําผู้คนไปสู่ความคิด" ที่อาจขัดขวางการเลือกตั้ง และสิ่งเลวร้ายอื่นๆ --- "จุดเริ่มต้นของสิ่งที่ฉันเรียกว่า "Cambridge Analytica เกี่ยวกับสเตียรอยด์"

ลีเรียกร้องให้เพื่อนร่วมงานพิจารณาวิธีหลีกเลี่ยง "อันตรายที่ใหญ่ที่สุด" นั้น

เขากล่าวว่า "เราจําเป็นต้องมีการเรียกร้องให้ผู้คนทํางานเกี่ยวกับเทคโนโลยีที่จะควบคุมและช่วยให้ความก้าวหน้าทางเทคโนโลยีที่น่าทึ่งนี้มีในเชิงบวกและควบคุมได้มากขึ้น และควบคุมได้มากขึ้นในการใช้ความชั่วร้ายในเชิงพาณิชย์ที่อาจเกิดขึ้น"

Marcus หลังจากเห็นด้วยกับ Lee อย่างจริงใจ ได้แนะนําวิทยากรคนสุดท้าย Angela Sheffield ซึ่งเป็นผู้อํานวยการอาวุโสด้านปัญญาประดิษฐ์ที่ Raft บริษัทที่ปรึกษาดิจิทัลในพื้นที่ DC

Angela Sheffield ผู้อํานวยการอาวุโสฝ่ายปัญญาประดิษฐ์ที่ Raft บริษัทที่ปรึกษาดิจิทัลในพื้นที่ DC

เชฟฟิลด์อ้างถึงการสนทนาบ่อยครั้งของเธอกับ "ผู้มีอํานาจตัดสินใจระดับสูงในรัฐบาลสหรัฐฯ และรัฐบาลระหว่างประเทศ" กล่าวว่า "มีความรู้สึกเร่งด่วนอย่างแท้จริงในหมู่ผู้มีอํานาจตัดสินใจอาวุโสและผู้กําหนดนโยบายของเราเกี่ยวกับวิธีการควบคุม AI" 

"เราอาจรู้ว่า AGI ไม่ใช่ครั้งต่อไป" เชฟฟิลด์กล่าว แต่ก็ไม่ได้ช่วยให้ผู้กําหนดนโยบายพูดเช่นนั้น เพราะ "พวกเขาต้องการบางสิ่งบางอย่าง "ในตอนนี้ที่ช่วยให้พวกเขาออกกฎหมายและช่วยให้พวกเขามีส่วนร่วมกับผู้มีอํานาจตัดสินใจระดับสูงในประเทศอื่น ๆ ด้วย"

เธอกล่าวว่า "เป็นมากกว่าแค่กรอบการทํางาน" "ฉันหมายถึง การนําสิ่งนี้ไปใช้กับปัญหาในโลกแห่งความเป็นจริงที่มีความหมาย การกําหนดพารามิเตอร์ของปัญหา เป็นสิ่งที่เฉพาะเจาะจง [...] สิ่งที่จะขว้างปาดอกใส่ ถึงเวลาแล้วที่จะก้าวเร็วขึ้นเพราะแรงจูงใจที่เราเพิ่งได้ยินจากไคฟู"

เธอตั้งคําถามว่า "ถ้าไม่ใช่เรา แล้วใคร?" 

เชฟฟิลด์ตั้งข้อสังเกตถึงผลงานของเธอเองเกี่ยวกับ AI ในความมั่นคงของชาติ โดยเฉพาะอย่างยิ่งในส่วนที่เกี่ยวกับการแพร่กระจายนิวเคลียร์ "เราพบโอกาสบางอย่างที่เราสามารถจับคู่อัลกอริทึม AI กับแหล่งข้อมูลใหม่ๆ เพื่อเพิ่มความสามารถของเราในการเพิ่มวิธีที่เราค้นหาคนเลวที่พัฒนาอาวุธนิวเคลียร์" เชฟฟิลด์กล่าวว่ามีความหวังที่จะใช้ AI เพื่อ "เพิ่มวิธีที่เราสั่งการและควบคุม" ซึ่งหมายความว่า "วิธีที่กลุ่มคนรับข้อมูล ตัดสินใจว่าจะทําอย่างไร และดําเนินการนั้น"

สําหรับส่วนสรุป Marcus ประกาศ "รอบสายฟ้าแลบ" ซึ่งเป็นโอกาสที่ผู้เข้าร่วมแต่ละคนจะตอบได้ภายใน 30 วินาทีหรือน้อยกว่านั้น "ถ้าคุณสามารถให้คําแนะนําแก่นักเรียนได้หนึ่งข้อ เช่น คําถาม AI ใดที่ต้องการค้นคว้ามากที่สุด หรือจะเตรียมตัวอย่างไรสําหรับโลกที่ AI เป็นศูนย์กลางมากขึ้นเรื่อยๆ คําแนะนํานั้นจะเป็นอย่างไร

Brynjolfsson กล่าวว่ามีการปรับปรุง "สมดุลแบบคั่น" ใน AI แต่ไม่มีการปรับปรุงดังกล่าวใน "สถาบันทางเศรษฐกิจ ทักษะ องค์กรของเรา" ดังนั้นกุญแจสําคัญคือ "เราจะสร้างสถาบันของเราขึ้นมาใหม่ได้อย่างไร"

Ferrucci เสนอว่า: "สมอง งาน และความเชื่อพื้นฐานที่สุดของคุณจะถูกท้าทายโดย AI อย่างที่ไม่เคยมีมาก่อน ตรวจสอบให้แน่ใจว่าคุณเข้าใจมัน มันทํางานอย่างไร และถูกใช้ที่ไหนและอย่างไร"

Choi: "เราต้องจัดการกับการปรับ AI ให้สอดคล้องกับค่านิยมของมนุษย์ โดยเฉพาะอย่างยิ่งการเน้นที่พหุนิยม ฉันคิดว่านั่นเป็นหนึ่งในความท้าทายที่สําคัญจริงๆ ที่เรากําลังเผชิญอยู่ และจัดการกับความท้าทายในวงกว้างมากขึ้น เช่น ความแข็งแกร่ง การสรุปภาพรวมและความสามารถในการอธิบาย เป็นต้น"

Kaspersen: "หลุดพ้นจากไซโล มันเป็นการบรรจบกันของเทคโนโลยีที่ไม่เคยมีมาก่อน ถามคําถามที่ดีจริงๆ เพื่อสํารวจการพิจารณาทางจริยธรรมและความไม่แน่นอน"

จอร์จ: "เลือกว่าคุณต้องการอยู่ในระดับหรือการวิจัยพื้นฐาน เพราะพวกเขามีวิถีที่แตกต่างกัน"

D'Avila Garcez: "เราต้องการ AI ที่เข้าใจมนุษย์และมนุษย์ที่เข้าใจ AI สิ่งนี้จะส่งผลต่อประชาธิปไตย ความรับผิดชอบ และการศึกษาในท้ายที่สุด"

ลี: "เราควรทํางานกับเทคโนโลยีที่สามารถทําสิ่งที่บุคคลไม่สามารถทําได้หรือไม่สามารถทําได้ดี [...] และอย่าเพิ่งไปหาอัลกอริทึมที่ใหญ่กว่า เร็วกว่า และดีกว่า แต่ให้คิดถึงปัจจัยภายนอกที่อาจเกิดขึ้น [... ที่] ไม่เพียงแต่สร้างไฟฟ้าเท่านั้น แต่ยังรวมถึงเบรกเกอร์เพื่อให้แน่ใจว่าเทคโนโลยีนั้นปลอดภัยและใช้งานได้"

เชฟฟิลด์: "พิจารณาความเชี่ยวชาญในแอปพลิเคชันโดเมน มีความสมบูรณ์มากมายทั้งในการวิจัยและพัฒนาของเราและการมีส่วนร่วมของเราต่อสังคมมนุษย์ในการประยุกต์ใช้ AI กับชุดปัญหาเฉพาะหรือโดเมนเฉพาะ"

Clune: "AGI กําลังจะมาเร็วๆ นี้ ดังนั้น สําหรับนักวิจัยที่พัฒนา AI ฉันขอแนะนําให้คุณทํางานเกี่ยวกับเทคนิคตามวิศวกรรม อัลกอริทึม เมตาเลิร์นนิ่ง การเรียนรู้แบบ end-to-end เป็นต้น เนื่องจากสิ่งเหล่านี้มีแนวโน้มที่จะถูกดูดซึมเข้าไปใน AGI ที่เรากําลังสร้างขึ้น สําหรับนักวิจัยที่ไม่ใช่ AI สิ่งที่สําคัญที่สุดน่าจะเป็นคําถามเกี่ยวกับการกํากับดูแล ดังนั้น คู่มือการเล่นเมื่อ AGI ได้รับการพัฒนาคืออะไร? ใครจะเป็นผู้ตัดสินคู่มือนั้น? และเราจะทําให้ทุกคนบนโลกเห็นด้วยกับแผนการเล่นนั้นได้อย่างไร"

Rossi: "AI ณ จุดนี้ไม่ใช่แค่วิทยาศาสตร์และเทคโนโลยี แต่เป็นวินัยทางเทคนิคทางสังคม [...] เริ่มต้นด้วยการพูดคุยกับคนที่ไม่ได้อยู่ในสาขาวิชาของคุณ เพื่อให้คุณสามารถประเมินผลกระทบของ AI ของสิ่งที่คุณกําลังทําอยู่ร่วมกัน และสามารถขับเคลื่อนเทคโนโลยีเหล่านี้ไปสู่อนาคตที่ความก้าวหน้าทางวิทยาศาสตร์สนับสนุนความก้าวหน้าของมนุษย์"

Marcus ปิดท้ายค่ําคืนด้วยการระลึกถึงคํากล่าวของเขาในการอภิปรายครั้งล่าสุดว่า "ต้องใช้หมู่บ้านในการเลี้ยงดู AI"

"ฉันคิดว่าตอนนี้มันเป็นความจริงมากขึ้น" "AI เคยเป็นเด็กมาก่อน ตอนนี้มันเหมือนกับวัยรุ่นที่อาละวาด ยังไม่ครอบครองวิจารณญาณที่เป็นผู้ใหญ่อย่างสมบูรณ์"

เขาสรุปว่า "ฉันคิดว่าช่วงเวลานั้นทั้งน่าตื่นเต้นและอันตราย"