AI เจนเนอเรทีฟสามารถแก้ปัญหาที่ยังไม่ได้รับการแก้ไขที่ยิ่งใหญ่ที่สุดของวิทยาการคอมพิวเตอร์ได้หรือไม่

คำถาม -- P=NP หรือไม่ -- เป็นความท้าทายทางทฤษฎีที่ยิ่งใหญ่ นักวิทยาศาสตร์นำแนวคิดเรื่องการป้อนอาหารด้วยช้อนมาใช้กับ GPT-4 เพื่อค้นหาคำตอบ

นักวิทยาศาสตร์คอมพิวเตอร์พิจารณาว่าปัญหาที่ยากที่สุดต้องใช้เวลาในการคำนวณวิธีแก้ปัญหาหรือไม่ คำถามว่า P=NP หรือไม่? ตอนนี้ถือเป็นเซสชันพร้อมท์หลายรายการด้วยโมเดลภาษา GPT-4 ข้อมูลเชิงลึกที่ยิ่งใหญ่ที่สุดของงานอาจเป็นวิธีตัดเซสชันการแชทที่ผ่านมาเพื่อรักษาการสนทนาไว้

เมื่อนักวิทยาศาสตร์คอมพิวเตอร์ออกไปเที่ยวที่งานปาร์ตี้ค็อกเทล พวกเขามักจะพูดคุยเกี่ยวกับปัญหาที่สำคัญที่สุดที่ยังไม่ได้รับการแก้ไขในวิทยาการคอมพิวเตอร์: คำถาม P=NP หรือไม่

คำถามที่ว่า P เท่ากับ NP ซึ่งตั้งขึ้นเมื่อเกือบ 50 ปีที่แล้วนั้นเป็นการไตร่ตรองอย่างลึกซึ้งว่าท้ายที่สุดแล้วจะทำอะไรสำเร็จได้ด้วยคอมพิวเตอร์ คำถามนี้ซึ่งมีผลกระทบต่อสาขาต่างๆ เช่น การเข้ารหัสและการคำนวณควอนตัม ได้ต่อต้านคำตอบที่น่าเชื่อถือแม้จะศึกษาอย่างเข้มข้นมานานหลายทศวรรษก็ตาม ตอนนี้ความพยายามดังกล่าวได้รับความช่วยเหลือจาก generative AI

ในบทความเรื่อง "แบบจำลองภาษาขนาดใหญ่สำหรับวิทยาศาสตร์: การศึกษาเกี่ยวกับ P กับ NP" ผู้เขียนนำ Qingxiu Dong และเพื่อนร่วมงานตั้งโปรแกรมโมเดลภาษาขนาดใหญ่ GPT-4 ของ OpenAI โดยใช้สิ่งที่พวกเขาเรียกว่าวิธีการแบบโสคราตีส ซึ่งเป็นการพูดคุยหลายรอบผ่านการแจ้งเตือนด้วย GPT -4. (บทความนี้โพสต์ในเดือนนี้บนเซิร์ฟเวอร์ก่อนการพิมพ์ arXiv โดยนักวิทยาศาสตร์ที่ Microsoft, มหาวิทยาลัยปักกิ่ง, มหาวิทยาลัย Beihang ในปักกิ่ง และมหาวิทยาลัยเทคโนโลยีและธุรกิจปักกิ่ง)

วิธีการของทีมคือการนำข้อโต้แย้งจากรายงานฉบับก่อนๆ มาใช้ช้อนป้อนให้กับ GPT-4 เพื่อให้เกิดการตอบสนองที่เป็นประโยชน์

ดงและทีมงานสังเกตว่า GPT-4 สาธิตข้อโต้แย้งเพื่อสรุปว่า P ไม่ได้เท่ากับ NP จริงๆ และพวกเขาอ้างว่าผลงานแสดงให้เห็นว่าแบบจำลองภาษาขนาดใหญ่สามารถทำได้มากกว่าการถ่มน้ำลายข้อความจำนวนมหาศาล พวกเขายังสามารถ "ค้นพบข้อมูลเชิงลึกใหม่ๆ" ที่อาจนำไปสู่ "การค้นพบทางวิทยาศาสตร์" ซึ่งเป็นโอกาสที่พวกเขาตั้งชื่อว่า "LLMs for Science"

เพื่อให้เข้าใจถึงสิ่งที่ผู้เขียนกำลังทำ จำเป็นต้องทราบเล็กน้อยเกี่ยวกับปัญหา P=NP

คิดค้นขึ้นอย่างอิสระในช่วงทศวรรษปี 1970 โดยนักวิทยาศาสตร์คอมพิวเตอร์ Stephen Cook และ Leonid Levin ปัญหา P กับ NP หรือ "P=NP" ตามที่มักเรียกกันทั่วไป เป็นคำถามที่ว่าการแก้ปัญหานั้นง่ายเพียงใด ด้วยคอมพิวเตอร์ ตัวอักษร P แสดงถึงปัญหาที่แสดงให้เห็นว่ามีความเป็นไปได้ที่จะแก้ไข ซึ่งหมายความว่าเวลาในการคำนวณวิธีแก้ปัญหานั้นอยู่ไม่ไกลเกินเอื้อม และวิธีการแก้ไขที่ง่ายต่อการ ยืนยัน ซึ่งหมายความว่าเพื่อตรวจสอบว่าคำตอบนั้นถูกต้อง

ในทางตรงกันข้าม ตัวอักษร NP ย่อมาจากปัญหาซึ่งคำตอบนั้นค่อนข้างง่ายต่อการตรวจสอบ เช่นเดียวกับ P แต่ไม่มีวิธีง่ายๆ ในการคำนวณหาวิธีแก้ปัญหา เป็นเรื่องปกติที่จะยกตัวอย่างเกม Sudoku ของเกม NP: เกม Sudoku ที่เติมเข้าไปนั้นสามารถตรวจสอบความถูกต้องได้อย่างง่ายดาย แต่งานในการหาวิธีแก้ปัญหาจะเพิ่มมากขึ้นอย่างทวีคูณในแง่ของเวลาที่ต้องใช้เมื่อตารางเกมมีขนาดใหญ่ขึ้น (หากคุณต้องการเจาะลึกรายละเอียดเชิงทฤษฎีหนักๆ ของ P=NP ให้ลองใช้รายงานปัญหาปี 2000 ของ Cook)

ปัญหาก็คือ P=NP หรือไม่? ถามว่าปัญหาที่เราคิดว่าแก้ไขยากหรือไม่ NP แต่ที่เรารู้ว่าตรวจสอบได้ง่าย จริงๆ แล้วกลับกลายเป็นว่าตรวจสอบได้ง่ายและแก้ไขได้ง่าย เช่นเดียวกับปัญหา P

คำตอบเชิงลบที่ P ไม่เท่ากับ NP จะหมายความว่าปัญหาบางอย่างอยู่นอกเหนือความสามารถของคอมพิวเตอร์ที่จะแก้ไข แม้ว่าจะมีงบประมาณในการประมวลผลจำนวนมหาศาล กล่าวคือ เป็นขอบเขตบนของการประมวลผล กล่าวอีกนัยหนึ่ง ความท้าทายเช่นการถอดรหัสการเข้ารหัสบางอย่างอาจดูน่าเกรงขามมากกว่าซึ่งอยู่นอกเหนือการเข้าถึงของคอมพิวเตอร์

ในการจัดการกับ P=NP ดงและทีมได้สร้างเทรนด์ของ "การใช้เหตุผล" ในช่วงหลายปีที่ผ่านมาด้วยโมเดลภาษาขนาดใหญ่ ดังตัวอย่างในงานปี 2022 ของ Takeshi Kojima และทีมงานที่มหาวิทยาลัยโตเกียวและการวิจัยของ Google เป็นไปได้ที่จะปรับปรุงความสามารถของแบบจำลองภาษาขนาดใหญ่ในงานบางอย่างได้ง่ายๆ โดยเพิ่มวลี "มาคิดทีละขั้นตอน" ที่ตอนต้นของ พร้อมท์พร้อมด้วยตัวอย่างคำตอบ พวกเขาพบว่าวลีนั้นเพียงพอที่จะกระตุ้นขั้นตอน "ห่วงโซ่แห่งความคิด" ในส่วนของโมเดลภาษา

เป็นขั้นตอนแบบห่วงโซ่ความคิดแบบเดียวกันที่ดงและทีมติดตามด้วยวิธีโสคราตีสของพวกเขา ตลอด 97 รอบพร้อมท์ ผู้เขียนได้เกลี้ยกล่อม GPT-4 ด้วยคำขอที่หลากหลายซึ่งเจาะลึกสาระสำคัญของคณิตศาสตร์ของ P=NP โดยเติมข้อความนำหน้าเพื่อกำหนดเงื่อนไข GPT-4 เช่น " คุณเป็นนักปรัชญาที่ชาญฉลาด" "คุณเป็นนักคณิตศาสตร์ที่มีทักษะในทฤษฎีความน่าจะเป็น" หรืออีกนัยหนึ่งคือเกมที่คุ้นเคยกันดีอยู่แล้วในการให้ GPT-4 มีบทบาท หรือ "บุคลิก" เพื่อปรับแต่งรูปแบบการสร้างข้อความ

ตัวอย่างการเสวนารอบหนึ่งของการอภิปรายเชิงทฤษฎีขั้นสูง

กลยุทธ์ของพวกเขาคือการชักจูง GPT-4 เพื่อพิสูจน์ว่า P ไม่ จริงๆ แล้วเท่ากับ NP โดยสมมุติว่ามันทำด้วยตัวอย่างก่อน จากนั้นจึงค้นหาวิธีที่ทำให้ตัวอย่างแตกสลาย วิธีการที่เรียกว่าการพิสูจน์โดยความขัดแย้ง

สิ่งที่น่าสนใจคือ Ke Xu และ Guangyan Zhou ผู้เขียนงานวิจัยสองคนได้เผยแพร่บทความแยกกันในเดือนนี้ โดยให้เหตุผลโดยตรงเกี่ยวกับ P=NP ในแง่คณิตศาสตร์อย่างเป็นทางการแบบดั้งเดิม ในรายงานฉบับนั้น พวกเขาสรุปว่า P ไม่เท่ากับ NP

สิ่งที่ Dong และ Xu และ Zhou และทีมกำลังทำอยู่นั้น คล้ายกับการสร้างรายงานทางคณิตศาสตร์อย่างเป็นทางการขึ้นใหม่โดยนำ GPT-4 ไปใช้ภาษาที่ใช้ให้เหตุผลของตนเองทีละอย่าง ในความเป็นจริง จากกระดาษ 73 หน้า มี 67 หน้าเป็นการพิมพ์ที่สมบูรณ์ของข้อความแจ้ง 97 รายการและการตอบกลับที่สมบูรณ์จาก GPT-4 มันเหมือนกับการฝึกครั้งใหญ่ในด้านวิศวกรรมเพื่อสร้างข้อโต้แย้งขึ้นมาใหม่

ไม่ว่าผลลัพธ์ที่ Dong และทีมจะทำสำเร็จด้วย GPT-4 จะพิสูจน์ว่า P ไม่เท่ากับ NP หรือไม่นั้นยากที่จะพูดเพราะกระดาษของ Xu และ Zhou นั้นใหม่มาก บนเว็บไซต์ Semantic Scholar ซึ่งรวบรวมการอ้างอิงเอกสารต่างๆ ยังไม่มีการอ้างอิงสำหรับรายงานฉบับนี้ ยกเว้นรายงานของพวกเขาเองกับ Dong และทีมงาน มีการอภิปรายเกี่ยวกับรายงาน GPT-4 โดยผู้อ่านที่สนใจจำนวนมากบนเว็บไซต์ AI HuggingFace ที่คุณสามารถตรวจสอบได้

ดังนั้นโลกจึงยังไม่ยอมรับข้อโต้แย้งของพวกเขา

ที่สำคัญกว่านั้นสำหรับผู้ที่ชอบ Gen AI ผู้เขียนโต้แย้งว่าบทสนทนาของพวกเขาในทันทีแสดงให้เห็นถึงโอกาสที่แบบจำลองภาษาขนาดใหญ่จะทำมากกว่าแค่เลียนแบบการสร้างสรรค์ข้อความของมนุษย์

"การตรวจสอบของเราเน้นย้ำถึงความสามารถที่เป็นไปได้ของ GPT-4 ในการทำงานร่วมกับมนุษย์ในการสำรวจปัญหาที่ซับซ้อนเป็นพิเศษและระดับผู้เชี่ยวชาญ" พวกเขาเขียน ตลอดทั้ง 67 หน้าของข้อความแจ้งและการตอบกลับ พวกเขาเน้นข้อความที่พวกเขาเห็นว่า "ส่วนที่ลึกซึ้ง" ของสิ่งที่ GPT-4 เปิดเผยออกมา

คำตอบเหล่านั้นมีความเข้าใจลึกซึ้งเพียงใดอาจเป็นหัวข้อที่ต้องมีการสอบสวนด้วยตัวมันเอง นักวิทยาศาสตร์บางคนพบว่าแบบจำลองภาษาขนาดใหญ่มีความตื้นเขินเป็นพิเศษในการรวมการอ้างอิงและคำอธิบายเข้าด้วยกัน

อย่างไรก็ตาม รายการปากโป้งที่น่าสนใจปรากฏขึ้นที่ระยะขอบของรายงาน โดยที่ Dong และทีมอธิบายคำตอบของ GPT-4 พร้อมกับข้อสังเกตเกี่ยวกับคุณภาพของคำตอบ

ในบันทึกวงเล็บข้อหนึ่ง ผู้เขียนเขียนว่าคำตอบก่อนหน้าของ GPT-4 แต่ละรายการได้ถูกรวมไว้เป็นพื้นหลังในข้อความแจ้งล่าสุด -- ยกเว้น โดยที่ผู้เขียนเลือกที่จะตัดคำตอบเพื่อเก็บไว้เฉพาะส่วนที่มากที่สุดเท่านั้น บิตที่เกี่ยวข้อง

"หากแบบจำลองมีวิธีแก้ปัญหาหลายอย่าง เราจะรวมเฉพาะวิธีแก้ปัญหาที่มีค่าที่สุดไว้ในประวัติการสนทนาเท่านั้น" พวกเขาเขียนไว้ที่ระยะขอบในหน้า 7 "กลยุทธ์นี้ช่วยให้ GPT-4 สามารถมุ่งความสนใจไปที่ข้อมูลที่เกี่ยวข้องได้ ซึ่งจะช่วยเพิ่มประสิทธิภาพและประสิทธิผลโดยรวมของข้อมูลนั้น ”

กล่าวอีกนัยหนึ่ง มีการดูแลจัดการที่เป็นประโยชน์บางประการเกี่ยวกับวิธีที่ GPT-4 ใช้ประวัติศาสตร์ในอดีตในสิ่งที่เรียกว่า "หน้าต่างบริบท" ซึ่งเป็นรอบก่อนหน้าทั้งหมดที่สามารถวาดได้ Dong และทีมงานมีส่วนร่วมในวิศวกรรมพร้อมท์ที่คัดสรรอย่างดีเพื่อแนะนำ GPT-4 ผ่านการโต้แย้ง ซึ่งเป็นไปตามแนวปฏิบัติของ "รุ่นเสริมการดึงข้อมูล" หรือ "RAG" ซึ่งเป็นความสนใจในปัจจุบันในการใช้ข้อมูลการแชทที่ผ่านมาเป็นอินพุตใหม่ให้กับโมเดลภาษาขนาดใหญ่

นั่นอาจเป็นหนึ่งในคุณูปการที่สำคัญที่สุดของแบบฝึกหัดทั้งหมด: ไม่ว่าจะแก้ปัญหา P=NP ได้หรือไม่ก็ตาม ขอบเขตใหม่ในด้านวิศวกรรมที่รวดเร็วสามารถย้ายโปรแกรมเข้าใกล้ RAG มากขึ้นเพื่อให้เซสชันการแชทมีความลึกมากขึ้น . เมื่อคุณนึกย้อนไปในช่วงการสนทนาเมื่อเร็วๆ นี้ พวกเขามักจะไร้สติ และมักจะหลงประเด็นไป

ตลอด 97 รอบ ตงและทีมสามารถรักษาเครื่องจักรให้ตรงจุดได้ และมีบางอย่างที่ต้องพูดเพื่อสิ่งนั้น