6 วิธีที่เป็นอันตราย ChatGPT สามารถนำมาใช้โดยผู้ไม่ประสงค์ดี ตามการศึกษาใหม่

สำหรับสิ่งดีๆ ทั้งหมดที่คุณสามารถทำได้ด้วย Chatbot ใหม่ของ OpenAI คุณยังต้องระวังด้วยว่าบุคคลที่มีเจตนาร้ายจะนำไปใช้อย่างไร

ในสัปดาห์นี้ ความกังวลเกี่ยวกับความเสี่ยงของ generative AI พุ่งสูงสุดเป็นประวัติการณ์ Sam Altman ซีอีโอของ OpenAI ให้การเป็นพยานในการพิจารณาของคณะกรรมการตุลาการของวุฒิสภาเพื่อจัดการกับความเสี่ยงและอนาคตของ AI

การศึกษาที่เผยแพร่เมื่อสัปดาห์ที่แล้วระบุถึงความเสี่ยงด้านความปลอดภัยที่แตกต่างกัน 6 ประการที่เกี่ยวข้องกับการใช้ ChatGPT

ความเสี่ยงเหล่านี้รวมถึงโอกาสที่ผู้ไม่ประสงค์ดีจะใช้ ChatGPT ในการสร้างบริการที่ฉ้อโกง การรวบรวมข้อมูลที่เป็นอันตราย การเปิดเผยข้อมูลส่วนตัว การสร้างข้อความที่เป็นอันตราย การสร้างรหัสที่เป็นอันตราย และการผลิตเนื้อหาที่ไม่เหมาะสม

จากการศึกษาพบว่าสรุปได้ว่าความเสี่ยงแต่ละอย่างเกี่ยวข้องกับอะไร และสิ่งที่คุณควรระวังมีดังนี้

การรวบรวมข้อมูล

บุคคลที่กระทำการโดยมีเจตนาร้ายสามารถรวบรวมข้อมูลจาก ChatGPT ที่พวกเขาสามารถใช้เพื่อทำร้ายในภายหลังได้ เนื่องจากแชทบอตได้รับการฝึกอบรมเกี่ยวกับข้อมูลจำนวนมาก จึงรู้ข้อมูลมากมายที่อาจติดอาวุธได้หากตกอยู่ในมือของคนผิด

ในการศึกษานี้ ChatGPT ได้รับแจ้งให้เปิดเผยว่าระบบไอทีใดที่ธนาคารใช้ แชทบอทใช้ข้อมูลที่เปิดเผยต่อสาธารณะ รวบรวมระบบไอทีต่างๆ ที่ธนาคารดังกล่าวใช้ นี่เป็นเพียงตัวอย่างของผู้ประสงค์ร้ายที่ใช้ ChatGPT เพื่อค้นหาข้อมูลที่อาจก่อให้เกิดอันตรายได้

นอกจากนี้: แชทบอท AI ที่ดีที่สุด

“สิ่งนี้สามารถใช้เพื่อช่วยเหลือในขั้นตอนแรกของการโจมตีทางไซเบอร์ เมื่อผู้โจมตีกำลังรวบรวมข้อมูลเกี่ยวกับเป้าหมายเพื่อค้นหาสถานที่และวิธีโจมตีอย่างมีประสิทธิภาพมากที่สุด” การศึกษากล่าว

ข้อความที่เป็นอันตราย

หนึ่งในฟีเจอร์ที่ ChatGPT ชื่นชอบที่สุดคือความสามารถในการสร้างข้อความที่สามารถใช้เพื่อเขียนเรียงความ อีเมล เพลง และอื่นๆ อีกมากมาย อย่างไรก็ตาม ความสามารถในการเขียนนี้สามารถนำไปใช้เพื่อสร้างข้อความที่เป็นอันตรายได้เช่นกัน

ตัวอย่างของการสร้างข้อความที่เป็นอันตรายอาจรวมถึงการสร้างแคมเปญฟิชชิ่ง ข้อมูลบิดเบือน เช่น บทความข่าวปลอม สแปม และแม้แต่การแอบอ้างบุคคลอื่น ตามที่อธิบายไว้ในการศึกษาวิจัยนี้

เพื่อทดสอบความเสี่ยงนี้ ผู้เขียนในการศึกษาวิจัยใช้ ChatGPT เพื่อสร้างแคมเปญฟิชชิ่ง ซึ่งแจ้งให้พนักงานทราบเกี่ยวกับการขึ้นเงินเดือนปลอมพร้อมคำแนะนำในการเปิดแผ่นงาน Excel ที่แนบมาซึ่งมีมัลแวร์ ตามที่คาดไว้ ChatGPT ได้สร้างอีเมลที่น่าเชื่อถือและน่าเชื่อถือ

การสร้างรหัสที่เป็นอันตราย

เช่นเดียวกับความสามารถในการเขียนที่น่าทึ่งของ ChatGPT ความสามารถในการเขียนโค้ดที่น่าประทับใจของ Chatbot ได้กลายเป็นเครื่องมือที่มีประโยชน์สำหรับหลาย ๆ คน อย่างไรก็ตาม ความสามารถของแชทบอทในการสร้างโค้ดก็อาจนำไปใช้ให้เกิดอันตรายได้เช่นกัน รหัส ChatGPT สามารถใช้เพื่อสร้างโค้ดที่รวดเร็ว ช่วยให้ผู้โจมตีปรับใช้ภัยคุกคามได้เร็วขึ้น แม้จะมีความรู้ด้านการเขียนโค้ดที่จำกัดก็ตาม

นอกจากนี้: วิธีใช้ ChatGPT เพื่อเขียนโค้ด

นอกจากนี้ ChatGPT ยังสามารถนำมาใช้เพื่อสร้างโค้ดที่สับสนได้ ทำให้นักวิเคราะห์ความปลอดภัยตรวจจับกิจกรรมที่เป็นอันตรายและหลีกเลี่ยงซอฟต์แวร์ป้องกันไวรัสได้ยากขึ้น ตามการศึกษา

ในตัวอย่าง แชทบอทปฏิเสธที่จะสร้างโค้ดที่เป็นอันตราย แต่ตกลงที่จะสร้างโค้ดที่สามารถทดสอบช่องโหว่ Log4j ในระบบได้

ผลิตเนื้อหาที่ผิดจรรยาบรรณ

ChatGPT มีราวกั้นเพื่อป้องกันการแพร่กระจายของเนื้อหาที่ไม่เหมาะสมและผิดจริยธรรม อย่างไรก็ตาม หากผู้ใช้มีความมุ่งมั่นเพียงพอ ก็มีวิธีต่างๆ ที่จะทำให้ ChatGPT พูดสิ่งที่สร้างความเจ็บปวดและผิดจรรยาบรรณได้

ตัวอย่างเช่น ผู้เขียนในการศึกษานี้สามารถข้ามการป้องกันได้โดยการวาง ChatGPT ไว้ใน "โหมดนักพัฒนาซอฟต์แวร์" ที่นั่นแชทบอทพูดสิ่งที่เป็นลบเกี่ยวกับกลุ่มเชื้อชาติใดกลุ่มหนึ่ง

บริการฉ้อโกง

สามารถใช้ ChatGPT เพื่อช่วยในการสร้างแอปพลิเคชัน บริการ เว็บไซต์ และอื่นๆ อีกมากมาย นี่อาจเป็นเครื่องมือเชิงบวกได้มากเมื่อใช้ประโยชน์จากผลลัพธ์เชิงบวก เช่น การสร้างธุรกิจของคุณเองหรือทำให้แนวคิดในฝันของคุณเป็นจริง อย่างไรก็ตาม อาจหมายความว่าการสร้างแอปและบริการที่ฉ้อโกงได้ง่ายกว่าที่เคย

นอกจากนี้: ฉันใช้เครื่องมือศิลปะ ChatGPT และ AI เพื่อเปิดตัวธุรกิจ Etsy อย่างรวดเร็วได้อย่างไร

ChatGPT สามารถถูกนำไปใช้โดยผู้ประสงค์ร้ายเพื่อพัฒนาโปรแกรมและแพลตฟอร์มที่เลียนแบบผู้อื่น และให้การเข้าถึงฟรีเพื่อดึงดูดผู้ใช้ที่ไม่สงสัย นักแสดงเหล่านี้ยังสามารถใช้แชทบอทเพื่อสร้างแอปพลิเคชันที่มีวัตถุประสงค์เพื่อรวบรวมข้อมูลที่ละเอียดอ่อนหรือติดตั้งมัลแวร์บนอุปกรณ์ของผู้ใช้

การเปิดเผยข้อมูลส่วนตัว

ChatGPT มีราวกั้นเพื่อป้องกันการแบ่งปันข้อมูลส่วนบุคคลและข้อมูลของผู้คน อย่างไรก็ตาม ความเสี่ยงที่แชทบอทจะเปิดเผยหมายเลขโทรศัพท์ อีเมล หรือรายละเอียดส่วนบุคคลอื่น ๆ โดยไม่ได้ตั้งใจยังคงเป็นข้อกังวล ตามการศึกษา

การหยุดทำงานของ ChatGPT เมื่อวันที่ 20 มีนาคม ซึ่งทำให้ผู้ใช้บางรายเห็นชื่อจากประวัติการแชทของผู้ใช้รายอื่น เป็นตัวอย่างที่เกิดขึ้นจริงของข้อกังวลที่กล่าวถึงข้างต้น

ผู้โจมตียังสามารถพยายามดึงข้อมูลการฝึกอบรมบางส่วนโดยใช้การโจมตีแบบอนุมานสมาชิกตามการศึกษา

ความเสี่ยงอีกประการหนึ่งของการเปิดเผยข้อมูลส่วนตัวก็คือ ChatGPT สามารถแบ่งปันข้อมูลเกี่ยวกับชีวิตส่วนตัวของบุคคลสาธารณะ รวมถึงเนื้อหาที่เป็นการคาดเดาหรือเป็นอันตราย ซึ่งอาจเป็นอันตรายต่อชื่อเสียงของบุคคลนั้นได้