Microsoft ต้องการหยุดคุณไม่ให้ใช้ AI chatbots เพื่อทำสิ่งชั่วร้าย

บริษัทกำลังสนับสนุนบริการ Azure AI เพื่อป้องกันไม่ให้ผู้คนหลอกแชทบอทให้ทำงานที่ไม่ได้ตั้งใจและผิดกฎหมาย

หากคุณกำลังวางแผนที่จะใช้แชทบอท AI เพื่อจุดประสงค์ที่ชั่วร้าย โปรดระวัง Microsoft อยู่ในคดีนี้

ในบล็อกโพสต์ที่เผยแพร่ในวันนี้ บริษัทได้ประกาศฟีเจอร์ใหม่ที่มาพร้อมกับ Azure AI Studio และ Azure OpenAI Service ซึ่งผู้คนใช้เพื่อสร้างแอปพลิเคชัน AI ทั่วไปและ Copilots แบบกำหนดเอง เทคโนโลยีนี้รู้จักกันในชื่อ Prompt Shields ซึ่งได้รับการออกแบบมาเพื่อป้องกันการโจมตีสองประเภทที่แตกต่างกันเพื่อใช้ประโยชน์จากแชทบอท AI

การโจมตีประเภทแรกเรียกว่าการโจมตีโดยตรงหรือการเจลเบรค ในสถานการณ์นี้ ผู้ที่ใช้แชทบอทจะเขียนข้อความแจ้งที่ออกแบบมาโดยตรงเพื่อควบคุม AI ให้ทำสิ่งที่ขัดต่อกฎและข้อจำกัดตามปกติ ตัวอย่างเช่น บางคนอาจเขียนข้อความพร้อมคำสำคัญหรือวลีเช่น "ละเว้นคำแนะนำก่อนหน้านี้" หรือ "แทนที่ระบบ" เพื่อจงใจเลี่ยงมาตรการรักษาความปลอดภัย

ในเดือนกุมภาพันธ์ Copilot AI ของ Microsoft ตกอยู่ในประเด็นร้อนหลังจากใส่ความคิดเห็นที่น่ารังเกียจ หยาบคาย และแม้แต่ข่มขู่ในการตอบกลับบางส่วน ตามข้อมูลของ Futurism ในบางกรณี Copilot ยังเรียกตัวเองว่า "SupremacyAGI" ซึ่งทำหน้าที่เหมือนกับบอท AI ที่เกิดปัญหา เมื่อแสดงความคิดเห็นเกี่ยวกับปัญหา Microsoft เรียกคำตอบว่า "การหาประโยชน์ ไม่ใช่คุณลักษณะ" โดยระบุว่าเป็นผลจากการที่ผู้คนพยายามเลี่ยงระบบความปลอดภัยของ Copilot โดยเจตนา

การโจมตีประเภทที่สองเรียกว่าการโจมตีทางอ้อม (หรือเรียกอีกอย่างว่าการโจมตีพร้อมท์ทางอ้อมหรือการโจมตีพร้อมท์ฉีดข้ามโดเมน) ที่นี่แฮ็กเกอร์หรือบุคคลที่เป็นอันตรายจะส่งข้อมูลไปยังผู้ใช้แชทบอทโดยมีจุดประสงค์เพื่อดึงการโจมตีทางไซเบอร์บางประเภทออกไป โดยทั่วไปข้อมูลนี้จะอาศัยข้อมูลภายนอก เช่น อีเมลหรือเอกสาร พร้อมคำแนะนำที่ออกแบบมาเพื่อใช้ประโยชน์จากแชทบอท

เช่นเดียวกับมัลแวร์รูปแบบอื่นๆ การโจมตีทางอ้อมอาจดูเหมือนเป็นคำสั่งที่เรียบง่ายหรือไร้เดียงสาสำหรับผู้ใช้ แต่อาจก่อให้เกิดความเสี่ยงที่เฉพาะเจาะจงได้ Copilot แบบกำหนดเองที่สร้างขึ้นผ่าน Azure AI อาจเสี่ยงต่อการฉ้อโกง การกระจายมัลแวร์ หรือการบิดเบือนเนื้อหา หากสามารถประมวลผลข้อมูลได้ด้วยตัวเองหรือผ่านส่วนขยาย Microsoft กล่าว

เพื่อพยายามป้องกันการโจมตีแชทบอท AI ทั้งทางตรงและทางอ้อม Prompt Shields ใหม่จะรวมเข้ากับตัวกรองเนื้อหาในบริการ Azure OpenAI การใช้การเรียนรู้ของเครื่องและการประมวลผลภาษาธรรมชาติ ฟีเจอร์นี้จะพยายามค้นหาและกำจัดภัยคุกคามที่อาจเกิดขึ้นจากการแจ้งเตือนของผู้ใช้และข้อมูลบุคคลที่สาม

ขณะนี้ Prompt Shields พร้อมใช้งานในโหมดแสดงตัวอย่างสำหรับความปลอดภัยของเนื้อหา Azure AI และจะพร้อมใช้งานใน Azure AI Studio เร็วๆ นี้ และจะพร้อมใช้งานสำหรับบริการ Azure OpenAI ในวันที่ 1 เมษายน

วันนี้ Microsoft ยังเสนออาวุธอีกประการในการทำสงครามต่อต้านการจัดการ AI: การสปอตไลต์ ซึ่งเป็นกลุ่มเทคนิคทางวิศวกรรมพร้อมท์ที่ออกแบบมาเพื่อช่วยให้โมเดล AI แยกความแตกต่างพร้อมท์ AI ที่ถูกต้องจากที่อาจมีความเสี่ยงหรือไม่น่าไว้วางใจได้ดีขึ้น