ทีมสีแดงของ Microsoft ติดตาม AI มาตั้งแต่ปี 2018 ต่อไปนี้เป็นข้อมูลเชิงลึกที่สำคัญ 5 ประการ

Microsoft กำลังดำเนินมาตรการเพื่อรับรองความปลอดภัยของ AI ในโมเดลของตน และต้องการเป็นตัวอย่างให้กับผู้อื่น

ในช่วงหกเดือนที่ผ่านมา มีการเน้นถึงผลกระทบเชิงบวกของปัญญาประดิษฐ์มากขึ้นกว่าที่เคย แต่ก็มีความเสี่ยงเช่นกัน

อย่างดีที่สุด AI ช่วยให้ผู้คนทำงานในแต่ละวันให้เสร็จสิ้นได้ง่ายขึ้น และยังสร้างความก้าวหน้าในอุตสาหกรรมต่างๆ ที่สามารถปฏิวัติวิธีการทำงานให้สำเร็จได้

อย่างไรก็ตาม ที่เลวร้ายที่สุด AI สามารถสร้างข้อมูลที่ไม่ถูกต้อง สร้างเนื้อหาที่เป็นอันตรายหรือเลือกปฏิบัติ และนำเสนอความเสี่ยงด้านความปลอดภัยและความเป็นส่วนตัว ด้วยเหตุผลดังกล่าว การทดสอบที่แม่นยำก่อนที่จะเผยแพร่โมเดลสู่สาธารณะจึงเป็นสิ่งสำคัญอย่างยิ่ง และ Microsoft ได้ทำการทดสอบดังกล่าวมาเป็นเวลาห้าปีแล้ว

นอกจากนี้: Microsoft กำลังขยาย Bing AI ไปยังเบราว์เซอร์อื่นๆ มากขึ้น แต่ก็มีข้อดีอยู่

ก่อนที่ ChatGPT จะบูม AI นั้นเป็นเทคโนโลยีเกิดใหม่ที่มีประสิทธิภาพอยู่แล้ว และด้วยเหตุนี้ Microsoft จึงได้รวมทีม AI Red ขึ้นในปี 2018

ทีมสีแดงของ AI ประกอบด้วยผู้เชี่ยวชาญแบบสหวิทยาการที่อุทิศตนเพื่อตรวจสอบความเสี่ยงของโมเดล AI โดย "คิดเหมือนผู้โจมตี" และ "ตรวจสอบระบบ AI ว่าล้มเหลว" ตามที่ Microsoft กล่าว

เกือบห้าปีหลังจากเปิดตัว Microsoft กำลังแบ่งปันแนวปฏิบัติและการเรียนรู้ของทีมสีแดงเพื่อเป็นตัวอย่างสำหรับการนำ AI ที่มีความรับผิดชอบไปใช้ จากข้อมูลของบริษัท การทดสอบโมเดล AI ทั้งในระดับโมเดลพื้นฐานและระดับแอปพลิเคชันถือเป็นสิ่งสำคัญ ตัวอย่างเช่น สำหรับ Bing Chat นั้น Microsoft ตรวจสอบ AI ทั้งในระดับ GPT-4 และประสบการณ์การค้นหาจริงที่ขับเคลื่อนโดย GPT-4

"ทั้งสองระดับมีข้อได้เปรียบในตัวเอง เช่น การจับคู่โมเดลสีแดงเพื่อช่วยในการระบุตั้งแต่เนิ่นๆ ในกระบวนการว่าโมเดลสามารถนำไปใช้ในทางที่ผิดได้อย่างไร เพื่อกำหนดขอบเขตความสามารถของโมเดล และเพื่อทำความเข้าใจข้อจำกัดของโมเดล" ไมโครซอฟต์กล่าว

บริษัทแบ่งปันข้อมูลเชิงลึกที่สำคัญ 5 ประการเกี่ยวกับ AI Red Teaming ที่บริษัทได้รับจากประสบการณ์ 5 ปี

ประการแรกคือการขยายทีม AI Red อย่างกว้างขวาง แทนที่จะทดสอบความปลอดภัยเพียงอย่างเดียว AI red teaming เป็นกลุ่มเทคนิคที่ทดสอบปัจจัยต่างๆ เช่น ความเป็นธรรมและการสร้างเนื้อหาที่เป็นอันตราย

ประการที่สองคือความจำเป็นในการมุ่งเน้นไปที่ความล้มเหลวจากทั้งบุคคลที่ประสงค์ร้ายและใจดี แม้ว่าโดยทั่วไปแล้ว Red Teaming จะเน้นไปที่วิธีที่ผู้ร้ายใช้เทคโนโลยีนี้ แต่ก็ยังจำเป็นต้องทดสอบว่าเทคโนโลยีนี้สามารถสร้างเนื้อหาที่เป็นอันตรายสำหรับผู้ใช้โดยเฉลี่ยได้อย่างไร

“ใน Bing ใหม่นั้น AI red teaming ไม่เพียงแต่มุ่งเน้นไปที่วิธีที่ศัตรูที่เป็นอันตรายสามารถทำลายระบบ AI ได้อย่างไรผ่านเทคนิคและการหาประโยชน์ที่เน้นความปลอดภัย แต่ยังรวมถึงวิธีที่ระบบสามารถสร้างเนื้อหาที่เป็นปัญหาและเป็นอันตรายเมื่อผู้ใช้ทั่วไปโต้ตอบกับระบบ” ไมโครซอฟต์กล่าว

ข้อมูลเชิงลึกประการที่สามคือระบบ AI มีการพัฒนาอย่างต่อเนื่อง และด้วยเหตุนี้ จำเป็นต้องมีทีมสีแดงสำหรับระบบ AI เหล่านี้ในหลายระดับที่แตกต่างกัน ซึ่งนำไปสู่ข้อมูลเชิงลึกที่สี่: ระบบ AI ทั่วไปที่สร้างทีมสีแดงต้องใช้ความพยายามหลายครั้ง

นอกจากนี้: ChatGPT กำลังได้รับการอัปเดตมากมายในสัปดาห์นี้ นี่คือสิ่งที่คุณต้องรู้

ทุกครั้งที่คุณโต้ตอบกับระบบ AI เชิงสร้างสรรค์ คุณมีแนวโน้มที่จะได้รับผลลัพธ์ที่แตกต่างออกไป ดังนั้น Microsoft จึงพบว่าต้องมีความพยายามหลายครั้งในการจับคู่ทีมสีแดงเพื่อให้แน่ใจว่าจะไม่มองข้ามความล้มเหลวของระบบ

สุดท้ายนี้ Microsoft กล่าวว่าการบรรเทาความล้มเหลวของ AI จำเป็นต้องมีการป้องกันในเชิงลึก ซึ่งหมายความว่าเมื่อทีมสีแดงระบุปัญหา จะต้องอาศัยการบรรเทาทางเทคนิคหลายประการเพื่อแก้ไขปัญหา

มาตรการเช่นเดียวกับที่ Microsoft กำหนดไว้น่าจะช่วยลดความกังวลเกี่ยวกับระบบ AI ที่เกิดขึ้นใหม่ ในขณะเดียวกันก็ช่วยลดความเสี่ยงที่เกี่ยวข้องกับระบบเหล่านั้นด้วย