ความเสี่ยงที่ใหญ่ที่สุด 5 ประการของ generative AI ตามที่ผู้เชี่ยวชาญระบุ

AI ทำให้ชีวิตของเราง่ายขึ้นในหลายๆ ด้าน อย่างไรก็ตาม สิทธิประโยชน์เหล่านี้อาจมาพร้อมกับค่าใช้จ่าย

Generative AI เช่น ChatGPT ได้ปฏิวัติวิธีที่เราโต้ตอบและมอง AI กิจกรรมต่างๆ เช่น การเขียน การเขียนโค้ด และการสมัครงานกลายเป็นเรื่องง่ายและรวดเร็วยิ่งขึ้น อย่างไรก็ตาม ในด้านบวกทั้งหมด ก็ยังมีความเสี่ยงที่ค่อนข้างร้ายแรงอยู่บ้าง

ข้อกังวลหลักของ AI คือความไว้วางใจและความปลอดภัย ซึ่งทำให้บางประเทศแบน ChatGPT โดยรวมโดยสิ้นเชิง หรือพิจารณานโยบายเกี่ยวกับ AI อีกครั้งเพื่อปกป้องผู้ใช้จากอันตราย

นอกจากนี้: เทคโนโลยีใหม่นี้สามารถทำลาย GPT-4 และทุกสิ่งที่คล้ายกันได้

ตามที่นักวิเคราะห์ของ Gartner Avivah Litan ความเสี่ยงที่ใหญ่ที่สุดบางประการของ generative AI เกี่ยวข้องกับความไว้วางใจและความปลอดภัย รวมถึงภาพหลอน การล้วงลึก ความเป็นส่วนตัวของข้อมูล ปัญหาลิขสิทธิ์ และปัญหาความปลอดภัยทางไซเบอร์

1. ภาพหลอน

ภาพหลอนหมายถึงข้อผิดพลาดที่โมเดล AI มีแนวโน้มที่จะทำ เนื่องจากถึงแม้จะเป็นขั้นสูง แต่ก็ยังไม่ใช่มนุษย์ และต้องอาศัยการฝึกอบรมและข้อมูลในการให้คำตอบ

หากคุณเคยใช้แชทบอท AI คุณอาจเคยประสบกับภาพหลอนเหล่านี้จากความเข้าใจผิดเกี่ยวกับข้อความแจ้งของคุณหรือคำตอบที่ผิดอย่างโจ่งแจ้งสำหรับคำถามของคุณ

Litan กล่าวว่าข้อมูลการฝึกอบรมสามารถนำไปสู่การตอบสนองที่เอนเอียงหรือไม่ถูกต้องตามข้อเท็จจริง ซึ่งอาจเป็นปัญหาร้ายแรงเมื่อผู้คนต้องอาศัยบอทเหล่านี้เพื่อหาข้อมูล

"ข้อมูลการฝึกอบรมอาจนำไปสู่การตอบสนองที่มีอคติ นอกฐาน หรือไม่ถูกต้อง แต่สิ่งเหล่านี้อาจตรวจพบได้ยาก โดยเฉพาะอย่างยิ่งเมื่อโซลูชันมีความน่าเชื่อถือและพึ่งพามากขึ้น" Litan กล่าว

2. ดีพเฟค

Deepfake ใช้ generative AI เพื่อสร้างวิดีโอ รูปภาพ และการบันทึกเสียงที่เป็นของปลอม แต่ถ่ายภาพและอุปมาของบุคคลอื่น

ตัวอย่างที่สมบูรณ์แบบคือภาพถ่ายไวรัลของสมเด็จพระสันตะปาปาฟรานซิสที่ AI สร้างขึ้นในเสื้อแจ็คเก็ตปักเป้า หรือเพลง Drake และ the Weeknd ที่สร้างโดย AI ซึ่งรวบรวมสตรีมนับแสนครั้ง

“ภาพ วิดีโอ และการบันทึกเสียงปลอมเหล่านี้ถูกใช้เพื่อโจมตีคนดังและนักการเมือง เพื่อสร้างและเผยแพร่ข้อมูลที่ทำให้เข้าใจผิด และแม้กระทั่งเพื่อสร้างบัญชีปลอม หรือเข้าครอบครองและเจาะเข้าไปในบัญชีที่ถูกต้องตามกฎหมายที่มีอยู่” Litan กล่าว

เช่นเดียวกับภาพหลอน Deepfakes มีส่วนทำให้เกิดการแพร่กระจายของเนื้อหาปลอมจำนวนมหาศาล ซึ่งนำไปสู่การเผยแพร่ข้อมูลที่ไม่ถูกต้อง ซึ่งเป็นปัญหาร้ายแรงในสังคม

3. ความเป็นส่วนตัวของข้อมูล

ความเป็นส่วนตัวยังเป็นข้อกังวลหลักของ AI เชิงสร้างสรรค์ เนื่องจากข้อมูลผู้ใช้มักถูกจัดเก็บไว้สำหรับการฝึกโมเดล ข้อกังวลนี้เป็นปัจจัยหลักที่ผลักดันให้อิตาลีแบน ChatGPT โดยอ้างว่า OpenAI ไม่ได้รับอนุญาตตามกฎหมายให้รวบรวมข้อมูลผู้ใช้

“พนักงานสามารถเปิดเผยข้อมูลองค์กรที่มีความละเอียดอ่อนและเป็นกรรมสิทธิ์ได้อย่างง่ายดาย เมื่อโต้ตอบกับโซลูชันแชทบอท AI ทั่วไป” Litan กล่าว “แอปพลิเคชันเหล่านี้อาจจัดเก็บข้อมูลที่บันทึกผ่านการป้อนข้อมูลของผู้ใช้อย่างไม่มีกำหนด และอาจใช้ข้อมูลเพื่อฝึกโมเดลอื่นๆ ซึ่งจะทำให้การรักษาความลับแย่ลงไปอีก”

Litan เน้นย้ำว่า นอกเหนือจากการรักษาความลับของผู้ใช้แล้ว ข้อมูลที่เก็บไว้ยังมีความเสี่ยงที่จะ "ตกไปอยู่ในมือของคนผิด" ในกรณีที่เกิดการละเมิดความปลอดภัย

4. ความปลอดภัยทางไซเบอร์

ความสามารถขั้นสูงของโมเดล AI เจนเนอเรชั่น เช่น การเขียนโค้ด อาจตกไปอยู่ในมือของผู้ไม่ประสงค์ดี ทำให้เกิดข้อกังวลด้านความปลอดภัยทางไซเบอร์

“นอกเหนือจากวิศวกรรมสังคมขั้นสูงและภัยคุกคามแบบฟิชชิ่งแล้ว ผู้โจมตียังสามารถใช้เครื่องมือเหล่านี้เพื่อสร้างโค้ดที่เป็นอันตรายได้ง่ายขึ้น” Litan กล่าว

Litan กล่าวว่าแม้ว่าผู้ขายที่นำเสนอโซลูชัน AI ทั่วไปมักจะให้ความมั่นใจกับลูกค้าว่าโมเดลของพวกเขาได้รับการฝึกอบรมให้ปฏิเสธคำขอด้านความปลอดภัยทางไซเบอร์ที่เป็นอันตราย แต่ซัพพลายเออร์เหล่านี้ไม่ได้จัดเตรียมความสามารถในการตรวจสอบมาตรการรักษาความปลอดภัยทั้งหมดให้กับผู้ใช้ปลายทาง

5. ปัญหาลิขสิทธิ์

ลิขสิทธิ์เป็นเรื่องที่น่ากังวลอย่างมาก เนื่องจากโมเดล AI เชิงสร้างสรรค์ได้รับการฝึกฝนเกี่ยวกับข้อมูลอินเทอร์เน็ตจำนวนมหาศาลที่ใช้ในการสร้างเอาต์พุต

กระบวนการฝึกอบรมนี้หมายความว่าผลงานที่แหล่งที่มาดั้งเดิมไม่ได้รับการแบ่งปันอย่างชัดเจนจะสามารถนำมาใช้เพื่อสร้างเนื้อหาใหม่ได้

ลิขสิทธิ์เป็นปัญหายุ่งยากโดยเฉพาะสำหรับงานศิลปะที่สร้างโดย AI ในทุกรูปแบบ รวมถึงรูปภาพและเพลง

ในการสร้างภาพจากข้อความแจ้ง เครื่องมือสร้าง AI เช่น DALL-E จะอ้างอิงกลับไปยังฐานข้อมูลขนาดใหญ่ของรูปภาพที่พวกเขาฝึกฝน ผลลัพธ์ของกระบวนการนี้คือผลิตภัณฑ์ขั้นสุดท้ายอาจรวมถึงลักษณะงานหรือสไตล์ของศิลปินที่ไม่ได้มาจากงานเหล่านั้น

เนื่องจากงานที่แน่นอนที่โมเดล AI เชิงสร้างสรรค์ได้รับการฝึกฝนนั้นไม่ได้รับการเปิดเผยอย่างชัดเจน จึงเป็นเรื่องยากที่จะบรรเทาปัญหาลิขสิทธิ์เหล่านี้

อะไรต่อไป?

แม้จะมีความเสี่ยงมากมายที่เกี่ยวข้องกับ AI แบบสร้างสรรค์ แต่ Litan ก็ไม่คิดว่าองค์กรต่างๆ ควรหยุดสำรวจเทคโนโลยีนี้ แต่พวกเขาควรสร้างกลยุทธ์ทั่วทั้งองค์กรที่กำหนดเป้าหมายไปที่ความน่าเชื่อถือ ความเสี่ยง และการจัดการความปลอดภัยของ AI

"นักพัฒนา AI จะต้องทำงานอย่างเร่งด่วนร่วมกับผู้กำหนดนโยบาย รวมถึงหน่วยงานกำกับดูแลใหม่ที่อาจเกิดขึ้น เพื่อกำหนดนโยบายและแนวปฏิบัติสำหรับการกำกับดูแลและการจัดการความเสี่ยงของ generative AI" Litan กล่าว