Snap ต้องการช่วยคุณระบุรูปภาพที่สร้างโดย AI ของ Snapchat โดยใช้ลายน้ำ
ลายน้ำจะปรากฏบนรูปภาพที่สร้างด้วยเครื่องมือ AI ของ Snap และส่งออกหรือบันทึกลงในม้วนฟิล์ม
Snap วางแผนที่จะเปิดตัวฟีเจอร์ลายน้ำที่จะช่วยให้คุณแยกแยะภาพจริงจากภาพที่สร้างโดยเครื่องมือ AI ได้ดีขึ้น เมื่อวันอังคาร บริษัทรับส่งข้อความบนมือถือได้ประกาศว่า Snapchat จะเพิ่มลายน้ำให้กับรูปภาพที่สร้างขึ้นโดยใช้เครื่องมือ AI เจนเนอเรชั่นของ Snap
ลายน้ำที่แสดงเป็นโลโก้ผีเล็กๆ พร้อมด้วยไอคอนประกายแวววาวที่คุ้นเคย จะปรากฏบนภาพที่ส่งออก ดาวน์โหลด หรือบันทึกลงในม้วนฟิล์ม ใครก็ตามที่ได้รับภาพจะเห็นโลโก้และไอคอน ทั้งใน Snapchat และภายนอกแพลตฟอร์ม
ในช่วงไม่กี่ปีที่ผ่านมา Snap ได้เปิดตัวเครื่องมือที่ขับเคลื่อนด้วย AI มากมาย คุณสามารถใช้ AI เพื่อสร้างวอลเปเปอร์เพื่อเพิ่มสีสันให้การสนทนาของคุณ เปลี่ยนใบหน้าของคุณด้วยเลนส์ประหลาด วางตัวเองในฉากต่างๆ ผ่าน Snapchat Dreams แชทกับแชทบอท My AI และสร้างสัตว์เลี้ยงเสมือนจริงได้
ภาวะที่กลืนไม่เข้าคายไม่ออกในที่นี้คือ ผู้คนอาจถูกหลอกให้เชื่อว่ารูปภาพที่สร้างโดย AI มีจริงได้อย่างง่ายดาย แน่นอนว่าหากฉันแชร์ภาพที่ถ่ายด้วยฟิลเตอร์ที่ทำให้ฉันดูเหมือนเอเลี่ยนหรือปลาหมึกยักษ์ คนอื่นก็จะรู้ว่ามันไม่มีอยู่จริง (เว้นแต่พวกเขาจะเชื่อเรื่องเอเลี่ยนหรือสัตว์ทะเลที่พูดได้) ในกรณีอื่นๆ เครื่องมือ AI สามารถทำให้บางสิ่งดูค่อนข้างถูกต้องตามกฎหมาย
Snap ใช้เทคนิคบางอย่างในการแท็กรายการที่สร้างโดย AI บางอย่างแล้ว ไอคอนตามบริบท สัญลักษณ์ และป้ายกำกับจะปรากฏขึ้นเมื่อคุณโต้ตอบกับฟีเจอร์ Snapchat ที่ขับเคลื่อนโดย AI รูปภาพ Dreams ที่ AI สร้างขึ้นจะแสดงการ์ดบริบทพร้อมรายละเอียดเพิ่มเติม รูปภาพที่ใช้เครื่องมือขยายเพื่อให้ซูมออกมากขึ้นจะเพิ่มไอคอนประกายไฟเพื่อแสดงว่ารูปภาพนั้นสร้างขึ้นโดย AI
เนื่องจากมีการใช้ AI ในทางที่ผิดด้วยเหตุผลทางการเมือง Snap ยังตั้งข้อสังเกตอีกว่าพนักงานของบริษัทตรวจสอบโฆษณาทางการเมืองสำหรับการใช้เนื้อหาที่ทำให้เข้าใจผิด โดยเฉพาะอย่างยิ่งพวกเขามองหาสัญญาณว่ามีการใช้ AI เพื่อสร้างภาพลักษณ์ที่หลอกลวง
ในข่าวประชาสัมพันธ์ Snap อธิบายว่าบริษัทยังพยายามค้นหาและทดสอบข้อบกพร่องที่เป็นไปได้ในโมเดล AI ของตัวเอง Snap ใช้การรวมทีมสีแดง ซึ่งเป็นกระบวนการที่บุคคลภายในหรือภายนอกแกล้งทำเป็นแฮกเกอร์และผู้โจมตีที่ต้องการหาประโยชน์จากจุดอ่อนหรือแอบหลบเลี่ยงการป้องกันในโมเดล AI เชิงสร้างสรรค์ ในกรณีของ Snap ทีมสีแดงมองหาผลลัพธ์และเนื้อหา AI ที่อาจมีความลำเอียง
“เราเชื่อในศักยภาพอันยิ่งใหญ่ของเทคโนโลยี AI ที่จะปรับปรุงความสามารถของชุมชนในการแสดงออกและเชื่อมต่อถึงกัน” Snap กล่าวในการเปิดตัว “และเรามุ่งมั่นที่จะปรับปรุงโปรโตคอลความปลอดภัยและความโปร่งใสเหล่านี้ต่อไป”