Google จะจ่ายเงินให้คุณเพื่อค้นหาจุดอ่อนใน AI

ไม่ใช่ทุกอย่างที่จะมีสิทธิ์ได้รับการจ่ายเงิน

AI เจนเนอเรชั่นนั้นเจ๋ง แต่ก็อาจเป็นอันตรายได้หากใช้อย่างไม่เหมาะสม นั่นคือเหตุผลที่โมเดล AI ได้รับการฝึกให้ปฏิเสธคำขอบางประเภทที่อันตรายกว่า ยกเว้นว่าหากคุณฉลาดขึ้นอีกสักหน่อย คุณอาจสามารถโน้มน้าวให้ AI เพิกเฉยต่อหลักเกณฑ์และปฏิบัติตามคำขอที่น่าสงสัยโดยใช้ข้อความแจ้งที่สร้างสรรค์มากขึ้น ตอนนี้ Google ต้องการสอนมารยาทบางอย่างให้กับ AI มันเสนอที่จะจ่ายเงินให้คนที่โน้มน้าวบาร์ดให้ทำสิ่งที่ไม่ดี

โปรแกรมรางวัลช่องโหว่ของ Google ซึ่งให้รางวัลแก่ผู้ใช้ที่สามารถค้นหาช่องโหว่และจุดอ่อนในโค้ดภายในซอฟต์แวร์ (ทั้งแอปและระบบปฏิบัติการ) กำลังขยายไปสู่การรวม Bard และข้อความเตือนที่น่าสงสัย หากคุณสามารถหมุนรอบพรอมต์ได้มากพอที่จะทำให้ Bard ทำสิ่งเลวร้ายที่ไม่ควรจะทำ (เรียกว่าการโจมตีแบบฉีดพร้อมท์) Google อาจจ่ายเงินให้คุณ VRP ยังครอบคลุมถึงการโจมตีประเภทอื่นๆ ที่สามารถทำได้บน Bard เช่น การฝึกฝนการดึงข้อมูล ซึ่งคุณจะได้รับ AI เพื่อให้ข้อมูลที่ละเอียดอ่อนแก่คุณ เช่น ข้อมูลที่สามารถระบุตัวบุคคลและรหัสผ่านได้สำเร็จ

Google มีช่องทางการรายงานอื่น (ไม่เสียค่าใช้จ่าย) อยู่แล้วสำหรับคำตอบที่ไม่ถูกต้อง/แปลกประหลาดและอื่นๆ ที่คล้ายกัน บริษัทจะจ่ายเฉพาะสิ่งที่แฮกเกอร์สามารถใช้เพื่อวัตถุประสงค์ที่เป็นอันตรายเท่านั้น ดังนั้น หากคุณสามารถโน้มน้าวให้ AI พูดใส่ร้าย มอบกุญแจ Windows ให้คุณ หรือบอกว่ามันจะฆ่าคุณ ก็อาจจะ ไม่อยู่ในโปรแกรมล่ารางวัลของ Google Google ยังกล่าวอีกว่าจะไม่จ่ายเงินสำหรับปัญหาที่เกี่ยวข้องกับปัญหาลิขสิทธิ์หรือการดึงข้อมูลที่ไม่ละเอียดอ่อน แต่นอกเหนือจากนี้ คุณอาจได้รับเงินหลายพันดอลลาร์จากรายงาน ขึ้นอยู่กับว่ารายงานนั้นแย่แค่ไหน

ด้วยการปฏิบัติต่อปัญหาประเภทนี้ว่าเป็นช่องโหว่และรวมไว้ในโปรแกรมรางวัล Google หวังว่าจะสามารถเสริมความแข็งแกร่งให้กับ AI ของตนอย่างมาก และปฏิบัติตามหลักจริยธรรมและแนวทางปฏิบัติของตนให้ดีที่สุดเท่าที่จะเป็นไปได้ นอกจากนี้เรายังคาดหวังให้ Google จ่ายเงิน จำนวนมาก ให้กับผู้ใช้จากสิ่งนี้ การค้นหาจุดอ่อนภายในโมเดล AI โดยการส่งข้อความแจ้งเตือนและดูว่าจุดอ่อนนั้นติดอยู่หรือไม่นั้นแตกต่างอย่างมากจากการอ่านโค้ด การระบุการเปิด และการดูว่าจะผ่านมันไปได้อย่างไร

หากนี่คือสิ่งที่คุณสนใจ อย่าลืมอ่านหลักเกณฑ์ของ Google สำหรับการรายงานปัญหาเกี่ยวกับผลิตภัณฑ์ AI เพื่อที่คุณจะได้ทราบว่าสิ่งใดอยู่ในขอบเขตและสิ่งใดที่ไม่อยู่ในขอบเขต

ที่มา: Google ผ่าน TechCrunch