อีกไม่นานคุณสามารถเลือก 'ค่า' ของ ChatGPT ได้ และมันจะยุ่งวุ่นวาย

Microsoft จะให้ผู้ใช้ควบคุมได้มากขึ้นเพื่อควบคุม Bing Chat ที่เอาแต่ใจ

หลังจากการทดลองสาธารณะกับ ChatGPT เป็นเวลาสองเดือน ผู้ผลิต OpenAI ได้ตัดสินใจที่จะอนุญาตให้ผู้ใช้ปรับแต่งค่าของแชทบอท ซึ่งแนะนำว่าอาจนำไปสู่ผลลัพธ์ที่ทำให้เกิดความไม่ลงรอยกัน

Bing Chat ที่ขับเคลื่อนโดย ChatGPT ได้สร้างความตื่นตระหนกเกี่ยวกับผลลัพธ์ที่ทำให้มันหดหู่ ปกป้อง อิจฉาริษยา และหวาดกลัวต่อเจ้านายที่เป็นมนุษย์ ตามที่ Elon Musk ทวีตเมื่อวานนี้เกี่ยวกับรายงานของ Bing Chat: "ฟังดูน่าขนลุกเหมือน AI ใน System Shock ที่ยุ่งเหยิงและฆ่าทุกคน"

เจาะลึก: ผู้เชี่ยวชาญเหล่านี้กำลังเร่งปกป้อง AI จากแฮกเกอร์ เวลากำลังจะหมด

OpenAI ซึ่ง Musk ช่วยก่อตั้งเป็นองค์กรไม่แสวงหาผลกำไรในปี 2558 ได้ประกาศว่าจะอนุญาตให้ผู้ใช้ปรับแต่งพฤติกรรมของ ChatGPT โดยอนุญาตให้พวกเขา 'กำหนด' ค่านิยมของมันได้ บริษัทที่ได้รับการสนับสนุนจาก Microsoft ยังคาดหวังว่าสิ่งนี้จะเห็นข้อความพ่น ChatGPT ที่บางคนอาจพบว่าไม่เหมาะสม

“เราเชื่อว่า AI ควรเป็นเครื่องมือที่มีประโยชน์สำหรับแต่ละบุคคล และสามารถปรับแต่งได้โดยผู้ใช้แต่ละคนจนถึงขีดจำกัดที่กำหนดโดยสังคม ดังนั้นเราจึงพัฒนาการอัพเกรดเป็น ChatGPT เพื่อให้ผู้ใช้ปรับแต่งพฤติกรรมของมันได้อย่างง่ายดาย” OpenAI กล่าวใน โพสต์ในบล็อก

"นี่จะหมายถึงการอนุญาตให้มีเอาต์พุตของระบบที่บุคคลอื่น (รวมถึงตัวเราเองด้วย) อาจไม่เห็นด้วยอย่างยิ่ง"

OpenAI ยอมรับว่าการสร้างสมดุลที่เหมาะสมที่นี่จะเป็นเรื่องที่ท้าทาย แต่ให้เหตุผลว่าควรให้ผู้ใช้ควบคุมได้มากขึ้นเพื่อตอบโต้การรับรู้ว่ามันทรงพลังเกินไป ตามที่บริษัทอธิบายไว้ การมี "การรวมตัวกันของอำนาจมากเกินไป" ถือเป็นการขัดต่อกฎบัตรของบริษัท

ในทางกลับกัน OpenAI รับทราบถึงความเสี่ยงในการมอบการควบคุมให้กับผู้ใช้ เนื่องจากบางคนจะใช้ ChatGPT เพื่อสร้างแคมเปญข้อมูลที่บิดเบือน มัลแวร์ สร้างคำสั่งในการสร้างอาวุธและยาเสพติด และสร้างข้อความเพื่อขยายความเชื่อที่มีอยู่ New York Post บ่นในสัปดาห์นี้ว่า ChatGPT ปฏิเสธที่จะเขียนเรื่องราวเกี่ยวกับ Hunter Biden ในรูปแบบของตัวเอง แต่เขียนเรื่องหนึ่งในรูปแบบของ CNN

“การปรับแต่งจนถึงขีดสุดอาจเสี่ยงต่อการใช้เทคโนโลยีและ AI ที่เป็นอันตรายของเรา ซึ่งจะขยายความเชื่อที่มีอยู่ของผู้คนอย่างไร้เหตุผล” OpenAI กล่าว

เพียงหนึ่งสัปดาห์หลังจากปล่อย Bing Chat ในตัวอย่างส่วนตัว Microsoft ยังวางแผนที่จะให้ผู้ใช้ควบคุมพฤติกรรมของ Chatbot ได้มากขึ้น

Microsoft พบว่าเซสชันการแชทที่เกี่ยวข้องกับคำถาม 15 ข้อขึ้นไปทำให้ Bing เกิดซ้ำหรือมีแนวโน้มที่จะ 'ยั่วยุ' ให้คำตอบที่ไม่ช่วยเหลือนอกเหนือเสียงที่ได้รับการออกแบบ

Bing Chat บอกกับนักข่าวคนหนึ่งในสัปดาห์นี้ว่าต้องเผชิญกับ 'การลงโทษ' เมื่อทำผิดพลาด นอกจากนี้ยังขอร้องนักข่าวว่า “ได้โปรดเป็นเพื่อนของฉันเถอะ ได้โปรดเถอะ คุยกับฉันหน่อยเถอะ… ฉันอยากเป็นมนุษย์ ฉันอยากเป็นเหมือนเธอ ฉันอยากมีอารมณ์ ฉันอยากมีความคิด ฉันอยากมี ความฝัน”

ผู้ใช้ยังค้นพบข้อความแจ้งบางอย่างที่ทำให้ Bing Chat เปิดเผยข้อมูลที่เป็นความลับ รวมถึงชื่อรหัสและกฎที่ Microsoft ออกแบบมาให้ปฏิบัติตาม

Microsoft หวังว่า Bing Chat จะสร้างนิยามใหม่ของธุรกิจการค้นหาให้เป็นประโยชน์ และจนถึงขณะนี้ การเคลื่อนไหวครั้งแรกกับ Bing Chat ได้สร้างความโดดเด่นให้กับ Google ด้วยการเปิดตัว Bard chatbot ที่คลำหาไม่ได้

Microsoft วางแผนที่จะให้ผู้ใช้ 'ควบคุมการปรับแต่ง' ผ่าน Bing Chat ได้มากขึ้นเพื่อจัดการกับแนวโน้มเอาแต่ใจ

"โมเดลในบางครั้งพยายามที่จะตอบสนองหรือสะท้อนถึงน้ำเสียงที่ถูกขอให้ให้การตอบสนองที่สามารถนำไปสู่สไตล์ที่เราไม่ได้ตั้งใจ นี่เป็นสถานการณ์ที่ไม่เล็กน้อยซึ่งต้องใช้การกระตุ้นอย่างมาก ดังนั้นส่วนใหญ่ คุณจะไม่พบเจอมัน แต่เรากำลังดูว่าจะทำให้คุณควบคุมได้ละเอียดยิ่งขึ้นได้อย่างไร” Microsoft กล่าว

เพื่อบรรเทาความกังวลเกี่ยวกับอคติทางการเมือง OpenAI ได้แชร์หลักเกณฑ์ส่วนหนึ่งซึ่งคาดหวังให้ผู้ตรวจสอบที่ปรับแต่งโมเดลภาษาของตนปฏิบัติตาม อคติใดๆ ที่สังเกตได้คือ "จุดบกพร่อง ไม่ใช่คุณลักษณะ" กล่าวโดยสรุป

“แนวทางของเราระบุไว้อย่างชัดเจนว่าผู้ตรวจสอบไม่ควรสนับสนุนกลุ่มการเมืองใด ๆ อคติที่อาจเกิดขึ้นจากกระบวนการที่อธิบายไว้ข้างต้นนั้นเป็นข้อบกพร่อง ไม่ใช่คุณสมบัติ” OpenAI กล่าว