OpenAI กำลังสร้างเครือข่ายทีมสีแดงเพื่อรับมือกับความปลอดภัยของ AI และคุณสามารถสมัครได้

สมาชิก Red Teaming Network ของ OpenAI จะได้รับการชดเชยเวลาและไม่จำเป็นต้องมีประสบการณ์ด้านโมเดลภาษามาก่อน

ChatGPT ของ OpenAI มีผู้ใช้งานมากกว่า 100 ล้านคนทั่วโลก โดยเน้นถึงกรณีการใช้งานเชิงบวกของ AI และความจำเป็นในการควบคุมเพิ่มเติม ขณะนี้ OpenAI กำลังรวบรวมทีมเพื่อช่วยสร้างโมเดลที่ปลอดภัยและแข็งแกร่งยิ่งขึ้น

เมื่อวันอังคารที่ผ่านมา OpenAI ประกาศว่ากำลังเปิดตัว OpenAI Red Teaming Network ซึ่งประกอบด้วยผู้เชี่ยวชาญที่สามารถช่วยให้ข้อมูลเชิงลึกเพื่อแจ้งการประเมินความเสี่ยงและกลยุทธ์การบรรเทาของบริษัท เพื่อปรับใช้โมเดลที่ปลอดภัยยิ่งขึ้น

เครือข่ายนี้จะเปลี่ยนวิธีที่ OpenAI ดำเนินการประเมินความเสี่ยงให้เป็นกระบวนการที่เป็นทางการมากขึ้น ซึ่งเกี่ยวข้องกับขั้นตอนต่างๆ ของวงจรการพัฒนาโมเดลและผลิตภัณฑ์ ตรงข้ามกับ "การมีส่วนร่วมและกระบวนการคัดเลือกแบบครั้งเดียวก่อนการใช้งานโมเดลหลัก" ตามข้อมูลของ OpenAI

OpenAI กำลังมองหาผู้เชี่ยวชาญจากภูมิหลังที่แตกต่างกันทั้งหมดเพื่อสร้างทีม รวมถึงความเชี่ยวชาญในด้านการศึกษา เศรษฐศาสตร์ กฎหมาย ภาษา รัฐศาสตร์ และจิตวิทยา และอื่นๆ อีกมากมาย

แต่ OpenAI กล่าวว่าไม่จำเป็นต้องมีประสบการณ์กับระบบ AI หรือโมเดลภาษามาก่อน

สมาชิกจะได้รับการชดเชยเวลาและอยู่ภายใต้ข้อตกลงไม่เปิดเผยข้อมูล (NDA) เนื่องจากพวกเขาจะไม่เกี่ยวข้องกับโมเดลหรือโปรเจ็กต์ใหม่ทุกรายการ การอยู่ในทีมสีแดงอาจมีความสำคัญน้อยกว่าการทุ่มเทเวลาห้าชั่วโมงต่อปี คุณสามารถสมัครเป็นส่วนหนึ่งของเครือข่ายผ่านทางเว็บไซต์ของ OpenAI

นอกเหนือจากแคมเปญ Red Teaming ของ OpenAI แล้ว ผู้เชี่ยวชาญยังสามารถมีส่วนร่วมซึ่งกันและกันใน "แนวปฏิบัติและการค้นพบของทีม Red ทั่วไป" ตามโพสต์ในบล็อก

“เครือข่ายนี้มอบโอกาสพิเศษในการกำหนดการพัฒนาเทคโนโลยีและนโยบาย AI ที่ปลอดภัยยิ่งขึ้น และผลกระทบที่ AI อาจมีต่อวิธีที่เราใช้ชีวิต ทำงาน และโต้ตอบ” OpenAI กล่าว

ทีมสีแดงเป็นกระบวนการสำคัญในการทดสอบประสิทธิภาพและรับรองความปลอดภัยของเทคโนโลยีใหม่ ยักษ์ใหญ่ด้านเทคโนโลยีอื่นๆ รวมถึง Google และ Microsoft ได้ทุ่มเททีมสีแดงสำหรับโมเดล AI ของตน