เครื่องมือโคลนเสียง AI ส่วนใหญ่ไม่ปลอดภัยจากนักต้มตุ๋น Consumer Reports พบ

Consumer Reports ประเมินเครื่องมือโคลนเสียงชั้นนํา รวมถึง Descript และ ElevenLabs นี่คือคําตัดสิน

เทคโนโลยีการโคลนเสียง AI มีความก้าวหน้าอย่างน่าทึ่งในช่วงไม่กี่ปีที่ผ่านมา โดยสามารถเข้าถึงความสามารถในการสร้างเสียงที่สมจริงจากตัวอย่างเพียงไม่กี่วินาที แม้ว่าสิ่งนี้จะมีแอปพลิเคชั่นเชิงบวกมากมาย เช่น หนังสือเสียง สื่อการตลาด และอื่นๆ แต่เทคโนโลยีนี้ยังสามารถใช้ประโยชน์สําหรับการหลอกลวง การฉ้อโกง และแอปพลิเคชันที่เป็นอันตรายอื่นๆ ได้อีกด้วย

หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับการป้องกันที่มีอยู่สําหรับผลิตภัณฑ์เหล่านี้ Consumer Reports ได้ประเมินเครื่องมือโคลนเสียงชั้นนําหกรายการ ได้แก่ Descript, ElevenLans, Lovo, PlayHT, Resemble AI และ Speechify โดยเฉพาะอย่างยิ่ง Consumer Reports กําลังมองหามาตรการป้องกันที่เหมาะสมเพื่อป้องกันการโคลนเสียงของใครบางคนโดยที่พวกเขาไม่รู้ตัว

ผลการวิจัยพบว่าผลิตภัณฑ์สี่ในหกผลิตภัณฑ์ จาก ElevenLabs, Speechify, PlayHT และ Lovo ไม่มีกลไกทางเทคนิคที่จําเป็นในการป้องกันการโคลนเสียงของใครบางคนโดยที่พวกเขาไม่รู้ตัว หรือเพื่อจํากัดการโคลน AI ไว้ที่เสียงของผู้ใช้เท่านั้น

แต่การป้องกันถูกจํากัดไว้ที่ช่องที่ผู้ใช้ต้องทําเครื่องหมายเพื่อยืนยันว่าพวกเขามีสิทธิ์ตามกฎหมายในการโคลนเสียง นักวิจัยพบว่า Descript และ Resemble AI เป็นบริษัทเดียวที่มีขั้นตอนเพิ่มเติมที่ทําให้ลูกค้าทําการโคลนนิ่งโดยไม่ได้รับความยินยอมได้ยากขึ้น

Descript ขอให้ผู้ใช้อ่านและบันทึกคําชี้แจงความยินยอมและใช้เสียงนั้นเพื่อสร้างโคลน Resemble AI ใช้แนวทางที่แตกต่างออกไป เพื่อให้มั่นใจว่าโคลนเสียงแรกที่สร้างขึ้นนั้นขึ้นอยู่กับเสียงที่บันทึกแบบเรียลไทม์ ทั้งสองวิธีนี้ไม่สามารถเจาะทะลุได้ เนื่องจากผู้ใช้สามารถกดเล่นบนตัวอย่างข้อมูลที่โคลนโดย AI อื่นหรือวิดีโอที่มีอยู่บนอุปกรณ์อื่นได้

การใช้การโคลนนิ่งโดยไม่ได้รับความยินยอมโดยทั่วไปคือการหลอกลวงผู้คน ตัวอย่างเช่น การโจมตีที่เป็นที่นิยมเกี่ยวข้องกับการโคลนเสียงของสมาชิกในครอบครัว แล้วใช้การบันทึกนั้นเพื่อติดต่อคนที่คุณรักเพื่อขอให้ส่งเงินเพื่อช่วยพวกเขาออกจากสถานการณ์ที่เลวร้าย เนื่องจากเหยื่อคิดว่าพวกเขากําลังได้ยินเสียงของสมาชิกในครอบครัวที่ตกอยู่ในความทุกข์ยากพวกเขาจึงมีแนวโน้มที่จะส่งเงินที่จําเป็นโดยไม่ต้องตั้งคําถามกับสถานการณ์

การโคลนเสียงยังถูกนํามาใช้เพื่อส่งผลกระทบต่อการตัดสินใจของผู้มีสิทธิเลือกตั้งในการเลือกตั้งที่กําลังจะมาถึง ดังที่เห็นในการเลือกตั้งปี 2024 เมื่อมีคนโคลนเสียงของอดีตประธานาธิบดีโจ ไบเดนเพื่อกีดกันไม่ให้ผู้คนปรากฏตัวในการเลือกตั้ง

Consumer Reports ยังพบว่า Speechify, Lovo, PlayHT และ Descript ต้องการอีเมลและชื่อสําหรับผู้ใช้ในการสร้างบัญชีเท่านั้น Consumer Reports แนะนําว่าบริษัทเหล่านี้ยังรวบรวมข้อมูลบัตรเครดิตของลูกค้าเพื่อติดตามเสียงหลอกลวงกลับไปยังผู้ไม่หวังดี

คําแนะนําอื่นๆ ของ Consumer Reports รวมถึงกลไกในการรับรองความเป็นเจ้าของเสียง เช่น การอ่านสคริปต์ที่ไม่ซ้ํากัน การใส่ลายน้ําเสียงที่สร้างโดย AI การสร้างเครื่องมือที่ตรวจจับภาพที่สร้างโดย AI การตรวจจับและป้องกันการโคลนเสียงของผู้มีอิทธิพลหรือบุคคลสาธารณะ และห้ามเสียงที่มีวลีหลอกลวง

การออกเดินทางที่ใหญ่ที่สุดจากระบบปัจจุบันคือข้อเสนอของ Consumer Report ที่จะให้ใครบางคนดูแลการโคลนเสียงแทนวิธีการทําด้วยตัวเองในปัจจุบัน Consumer Reports ยังกล่าวด้วยว่าควรให้ความสําคัญกับการทําให้นักแสดงที่จําเป็นเข้าใจความรับผิดของตนหากรูปแบบเสียงถูกนําไปใช้ในทางที่ผิดในข้อตกลงตามสัญญา

Consumer Reports เชื่อว่าบริษัทต่างๆ มีภาระผูกพันตามสัญญาภายใต้มาตรา 5 ของพระราชบัญญัติคณะกรรมาธิการการค้าแห่งสหพันธรัฐเพื่อปกป้องผลิตภัณฑ์ของตนจากการถูกนําไปใช้เพื่อทําอันตราย ซึ่งสามารถทําได้โดยการเพิ่มการป้องกันเพิ่มเติมเท่านั้น

หากคุณได้รับโทรศัพท์ด่วนจากคนที่คุณรู้จักเรียกร้องเงิน ใช้อุปกรณ์อื่นเพื่อติดต่อบุคคลนั้นโดยตรงเพื่อยืนยันคําขอ หากคุณไม่สามารถติดต่อกับบุคคลนั้นได้ คุณก็สามารถถามคําถามผู้โทรเพื่อยืนยันตัวตนได้ สําหรับรายการทั้งหมดเกี่ยวกับวิธีป้องกันตัวเองจากการโทรหลอกลวง AI โปรดดูคําแนะนําของ ZDNET ที่นี่