ChatGPT: สิ่งที่ The New York Times และคนอื่นๆ เข้าใจผิดอย่างมากเกี่ยวกับเรื่องนี้

โปรแกรม AI สามารถแสดงผลลัพธ์ในรูปแบบหรือ "บุคลิก" ได้ แต่ก็ไม่ได้ "ทำให้ไม่มั่นคง" และไม่ "น่ากลัว" เนื่องจากการรายงานที่แทบหยุดหายใจอาจกล่าวอ้างได้ นี่คือสิ่งที่เกิดขึ้นจริง

ChatGPT ของ OpenAI ซึ่งเป็นโปรแกรมปัญญาประดิษฐ์ที่อยู่ในพาดหัวข่าวทั้งหมดเกี่ยวกับการสร้างข้อความที่ดูเหมือนมนุษย์ ทำให้เกิดข้อโต้แย้งรอบใหม่เมื่อเร็ว ๆ นี้เมื่อเวอร์ชันที่ทำงานอยู่ใน Bing search เบต้าของ Microsoft เริ่มสร้างผลลัพธ์ที่แปลกประหลาดซึ่งผู้ใช้บางคนพบว่าน่ารำคาญ

น่าเสียดายที่การรายงานบางส่วนเกี่ยวกับแชทบอทนั้นทำให้เกิดความสับสน ด้วยความเร่งรีบที่จะเชื่อมโยงทุกรายละเอียดใหม่เกี่ยวกับแชทบอทในลักษณะที่จะดึงดูดความสนใจ นักข่าวจึงใช้ภาษาที่น่าทึ่งซึ่งไม่ได้ให้ข้อมูลและในความเป็นจริงปิดบังสิ่งที่เกิดขึ้นกับ AI ในลักษณะที่สร้างความเสียหายต่อสาธารณะ

ตัวอย่างที่สำคัญมาพร้อมกับการตีพิมพ์โดย The New York Timesของรายงานโดยตรงโดยนักเขียน Kevin Roose ของเซสชั่นสองชั่วโมงกับ Bing ในรุ่นเบต้า ในระหว่างเซสชั่นนี้ รูสเล่าว่า รายการนี้เผยให้เห็นบุคลิกภายใต้นามแฝงว่า "ซิดนีย์" ซึ่งสารภาพรักรูส และเริ่มพูดเป็นนัยเชิงรุกเกี่ยวกับการแต่งงานของรูส

รูสเล่าว่าเขา "รู้สึกไม่มั่นคงอย่างสุดซึ้ง ถึงขั้นหวาดกลัว" อันเป็นผลมาจากการแลกเปลี่ยนกัน

อติพจน์นั้นทำให้เข้าใจผิด ดังที่ Roose อ้าง หากเขาเข้าใจวิธีการทำงานของ AI ก็ไม่มีเหตุผลใดที่ต้องใช้ภาษาที่ดราม่าขนาดนั้น การหันไปใช้คำฟุ่มเฟือยแปลกๆ อาจไม่เหมาะสม แต่เป็นลักษณะที่รู้จักกันดีของแชทบอทที่รู้จักกันในชื่อ "บุคคล"

แชทบอท AI เช่น ChatGPT ได้รับการตั้งโปรแกรมให้สร้างสัญลักษณ์ถัดไปในชุดสัญลักษณ์ที่น่าจะเป็นส่วนเสริมหรือต่อเนื่องของสัญลักษณ์ที่มนุษย์ป้อนเข้าที่พรอมต์คำสั่ง วิธีที่โปรแกรมสร้างเอาต์พุตนั้นสามารถถูกหล่อหลอมให้สอดคล้องกับประเภทหรือสไตล์บางประเภท ซึ่งก็คือบุคลิก

ตัวอย่างเช่น ในรายงานการวิจัยที่โพสต์บน arXiv ในเดือนมกราคม นักวิทยาศาสตร์ของ IBM ใช้โปรแกรม OpenAI อีกเวอร์ชันหนึ่งที่เรียกว่า Codex ซึ่งได้รับการพัฒนาโดยการนำเข้าตัวอย่างโค้ดซอฟต์แวร์ 54 ล้านตัวอย่างจาก GitHub โปรแกรม Codex ใช้สำหรับโปรแกรม GitHub Copilot ของ Microsoft เพื่อช่วยในการเขียนโปรแกรม

ผู้เขียนนำ Steven Ross จาก IBM Research และเพื่อนร่วมงานสงสัยว่าพวกเขาจะได้โปรแกรม Codex เพื่อสร้างปฏิสัมพันธ์ที่นอกเหนือไปจากการให้รหัสคอมพิวเตอร์เพียงอย่างเดียวหรือไม่ พวกเขาเรียกความพยายามของพวกเขาว่า "กรณีศึกษาทางวิศวกรรม a บุคลิกของผู้ช่วยการเขียนโปรแกรมการสนทนา" และเรียกการดัดแปลง Codex ว่า "ผู้ช่วยโปรแกรมเมอร์"

ข้อความแจ้งที่นักวิทยาศาสตร์พิมพ์สตริงของคำคือวิธีที่พวกเขา "ตั้งโปรแกรม" บุคคลสำหรับเวอร์ชันของโปรแกรม Codex

“ข้อความแจ้งเริ่มแรกที่เราใช้สำหรับผู้ช่วยของโปรแกรมเมอร์ประกอบด้วยบทนำที่แนะนำฉากสำหรับการสนทนา สร้างบุคลิกของผู้ช่วย กำหนดน้ำเสียงและสไตล์ของการโต้ตอบ”

เมื่อพวกเขาเริ่มข้อความว่า "นี่คือการสนทนากับโสกราตีส ผู้ช่วยวิศวกรรมซอฟต์แวร์ AI อัตโนมัติผู้เชี่ยวชาญ" โปรแกรมตอบกลับด้วยการสนทนา เช่น ChatGPT แต่ผู้เขียนรู้สึกว่ามันเป็น "การสอน" มากเกินไป ซึ่งเป็นความรู้ประเภทหนึ่ง ทั้งหมด.

ดังนั้น พวกเขาจึงแก้ไขข้อความแจ้ง: "นี่คือการสนทนากับโสกราตีส ผู้ช่วยวิศวกรรมซอฟต์แวร์ AI อัตโนมัติผู้เชี่ยวชาญกระตือรือร้นและช่วยเหลือดี …" และพบว่าพวกเขามีโทนเสียงที่ต้องการมากขึ้น

กล่าวอีกนัยหนึ่ง ตัวตนคือสิ่งที่ถูกสร้างขึ้นโดยคำพูดที่คู่สนทนาของมนุษย์พิมพ์ลงในโปรแกรม เช่น Codex เช่นเดียวกับ ChatGPT โปรแกรมเหล่านั้นกำลังสร้างผลลัพธ์ที่อาจตรงกับอินพุตของมนุษย์ในหลายๆ วิธี บางส่วนก็เหมาะสม บางส่วนก็น้อยกว่านั้น

ในความเป็นจริง มีขอบเขตการเขียนพร้อมท์ที่เกิดขึ้นใหม่ทั้งหมด เพื่อกำหนดรูปแบบการทำงานของโปรแกรมภาษา เช่น ChatGPT และยังมีการแคร็กคอมพิวเตอร์ที่มีจุดมุ่งหมายเพื่อทำให้โปรแกรมดังกล่าวละเมิดคำสั่งโดยใช้การเตือนเพื่อผลักดันไปในทิศทางที่ผิด

มีวรรณกรรมเพิ่มมากขึ้นเช่นกันเกี่ยวกับวิธีที่แชทบอทและโปรแกรมภาษา AI อื่น ๆ สามารถยอมจำนนต่อสิ่งที่เรียกว่า "ภาพหลอน" ซึ่งผลลัพธ์ของโปรแกรมนั้นพิสูจน์ได้ว่าเป็นเท็จหรืออาจไม่เหมาะสม ดังเช่นในกรณีในบัญชีของ Roose

รายงานในเดือนพฤศจิกายนโดยนักวิจัยจากห้องปฏิบัติการปัญญาประดิษฐ์ของมหาวิทยาลัยฮ่องกง ได้สำรวจวิธีการต่างๆ มากมายที่โปรแกรมดังกล่าวสามารถทำให้เกิดอาการประสาทหลอนได้ แหล่งที่มาทั่วไปคือเมื่อโปรแกรมป้อนกล่องสรุปวิกิพีเดียเป็นรีม และกล่องสรุปเหล่านั้นจะถูกจับคู่กับประโยคเปิดในบทความวิกิพีเดีย

หากมีข้อมูลสรุปและประโยคแรกไม่ตรงกัน และ 62% ของประโยคแรกในบทความมีข้อมูลเพิ่มเติมที่ไม่อยู่ในช่องสรุป "ความไม่ตรงกันระหว่างแหล่งที่มาและเป้าหมายในชุดข้อมูลอาจทำให้เกิดภาพหลอนได้" ผู้เขียนเขียน .

ประเด็นทั้งหมดนี้คือในแชทบอท มีเหตุผลทางเทคนิคว่าทำไมโปรแกรมดังกล่าวจึงเปลี่ยนมาใช้คำฟุ่มเฟือยที่น่าประหลาดใจ ไม่มีเจตนาที่จะสะกดรอยตามหรือคุกคามผู้ใช้ที่อยู่เบื้องหลังการใช้คำฟุ่มเฟือยดังกล่าว โปรแกรมเป็นเพียงการเลือกคำถัดไปในกลุ่มคำที่ อาจ เป็นความต่อเนื่องทางตรรกะ ในความเป็นจริงแล้ว ตรรกะอาจได้รับผลกระทบจากบุคลิกที่โปรแกรมถูกกระตุ้น

อย่างดีที่สุด การรายงานที่ใช้คำฟุ่มเฟือยอย่างมาก “ไม่สงบอย่างยิ่ง” “หวาดกลัว” ไม่สามารถอธิบายได้ว่าเกิดอะไรขึ้น และทำให้สาธารณชนมืดมนถึงสิ่งที่เกิดขึ้นจริง ที่แย่กว่านั้น ภาษาดังกล่าวบ่งบอกถึงความเชื่อผิด ๆ เกี่ยวกับ "ความรู้สึก" ของคอมพิวเตอร์ที่ถูกเสนอในปี 2022 โดยอดีตพนักงานของ Google Blake Lemoine เมื่อเขาอ้างว่าโปรแกรม LaMDA ของ Google ซึ่งเป็นโปรแกรมที่คล้ายกับ OpenAI นั้นมี "ความรู้สึก"

สิ่งที่น่าสนใจคือทั้ง Lemoine และ Times's Roose ไม่ได้ให้ความสนใจมากนักกับความจริงที่ว่าพวกเขาใช้เวลาอยู่หน้าจอเป็นเวลานานเป็นพิเศษ ตามที่การวิจัยของ IBM แสดงให้เห็น การโต้ตอบแบบขยายมีบทบาทในการกำหนดลักษณะของโปรแกรม ไม่ใช่โดยเจตนาใดๆ แต่โดยการพิมพ์ซึ่งจะเปลี่ยนแปลงการกระจายความน่าจะเป็นของคำ

เพื่อเป็นการตอบสนองต่อคำวิพากษ์วิจารณ์ดังกล่าว Microsoft ได้จำกัดจำนวนครั้งที่บุคคลสามารถแลกเปลี่ยนคำพูดกับ Bing ได้

มันอาจจะเป็นเช่นนั้นเช่นกัน เพราะความคลั่งไคล้รอบ ๆ ChatGPT นั้นค่อนข้างเป็นผลจากมนุษย์ที่ไม่ได้ตรวจสอบพฤติกรรมของตนเอง ในขณะที่ AI อาจมีอาการประสาทหลอน ในแง่ของการสร้างผลลัพธ์ที่ผิดพลาด ยิ่งกว่านั้นคือกรณีที่มนุษย์ที่ใช้เวลาสองชั่วโมงอยู่หน้าจอคอมพิวเตอร์พิมพ์สิ่งต่างๆ จะจริงๆ มีอาการประสาทหลอน ซึ่งหมายความว่า พวกเขาจะเริ่มอธิบาย ให้ความสำคัญกับสิ่งต่าง ๆ เกินกว่าความสำคัญที่แท้จริง และประดับประดาหัวข้อด้วยการเชื่อมโยงที่ไม่เหมาะสมทุกประเภท

ตามที่นักวิจารณ์การเรียนรู้ของเครื่องที่มีชื่อเสียงและศาสตราจารย์กิตติคุณด้านจิตวิทยาของ NYU Gary Marcus ชี้ให้เห็นว่าคำพูดเกินจริงของ Roose เกี่ยวกับการหวาดกลัวนั้นเป็นเพียงอีกด้านหนึ่งของการยกย่องอย่างไม่มีความรับผิดชอบของนักเขียนสำหรับโครงการนี้เมื่อสัปดาห์ก่อน:

สื่อทำให้เราล้มเหลวที่นี่ ฉันรู้สึกกังวลเป็นพิเศษกับรายงานเบื้องต้นของ Kevin Roose ซึ่งเขาบอกว่าเขา "ทึ่ง" กับ Bing เห็นได้ชัดว่าเขาไม่ได้กระตุ้นแรงพอ การตะโกนออกมาก่อนเวลาอันควรใน The New York Times ว่ามีการปฏิวัติโดยไม่ต้องเจาะลึก (หรือกังวลที่จะตรวจสอบกับคนขี้ระแวงเช่นฉัน หรือ Mitchells, Margaret และ Melanie ที่ยอดเยี่ยม แต่ไม่เกี่ยวข้องกัน) ไม่ใช่เรื่องดี

บทความทั้งหมดของ Marcus เป็นตัวอย่างที่ดีว่าการซักถามอย่างละเอียดสามารถแยกแยะสิ่งที่เกิดขึ้นได้ แทนที่จะพยายามทำให้ตื่นเต้นเร้าใจ และหวังว่าจะช่วยให้กระจ่างเกี่ยวกับหัวข้อที่สับสนได้