บอทที่ได้รับความช่วยเหลือจาก ChatGPT กำลังแพร่กระจายบนโซเชียลมีเดีย
ผู้มีอิทธิพลหรือบอท? ต่อไปนี้เป็นวิธีบอกเล่า
สำหรับผู้ใช้จำนวนมาก การเลื่อนดูฟีดโซเชียลมีเดียและการแจ้งเตือนก็เหมือนกับการลุยเนื้อหาสแปมจำนวนมาก การศึกษาใหม่ระบุบอทที่ได้รับความช่วยเหลือจาก AI จำนวน 1,140 ตัวที่เผยแพร่ข้อมูลที่ผิดบน X (เดิมชื่อ Twitter) เกี่ยวกับสกุลเงินดิจิทัลและบล็อกเชน
แต่บัญชีบอทที่โพสต์เนื้อหาประเภทนี้อาจตรวจพบได้ยาก ตามที่นักวิจัยจากมหาวิทยาลัยอินเดียนาพบว่า บัญชีบอทใช้ ChatGPT เพื่อสร้างเนื้อหาและแยกแยะได้ยากจากบัญชีจริง ทำให้การปฏิบัติดังกล่าวเป็นอันตรายต่อผู้ที่ตกเป็นเหยื่อมากขึ้น
บัญชีบอทที่ขับเคลื่อนด้วย AI มีโปรไฟล์ที่คล้ายกับมนุษย์จริงๆ พร้อมรูปถ่ายโปรไฟล์และประวัติหรือคำอธิบายเกี่ยวกับ crypto และ blockchain พวกเขาสร้างโพสต์ที่สร้างด้วย AI เป็นประจำ โพสต์รูปภาพที่ถูกขโมยเป็นของตนเอง และตอบกลับและรีทวีต
นักวิจัยค้นพบว่าบัญชี Twitter bot 1,140 บัญชีเป็นของ Social botnet ที่เป็นอันตรายแบบเดียวกัน ซึ่งพวกเขาเรียกว่า "fox8" บ็อตเน็ตคือเครือข่ายของอุปกรณ์ที่เชื่อมต่อ หรือในกรณีนี้คือบัญชี ซึ่งอาชญากรไซเบอร์ควบคุมจากส่วนกลาง
บอท AI ทั่วไปเริ่มเลียนแบบพฤติกรรมของมนุษย์ได้ดีขึ้น ซึ่งหมายความว่าเครื่องมือตรวจจับบอทแบบดั้งเดิมและล้ำสมัย เช่น Botometer นั้นไม่เพียงพอในขณะนี้ เครื่องมือเหล่านี้พยายามดิ้นรนเพื่อระบุและแยกแยะเนื้อหาที่สร้างโดยบอทจากเนื้อหาที่มนุษย์สร้างขึ้นในการศึกษา แต่มีสิ่งหนึ่งที่โดดเด่น: ตัวแยกประเภท AI ของ OpenAI ซึ่งสามารถระบุทวีตของบอทบางตัวได้
คุณจะมองเห็นบัญชีบอทได้อย่างไร?
บัญชีบอทบน Twitter มีรูปแบบพฤติกรรมที่คล้ายคลึงกัน เช่น ติดตามกัน ใช้ลิงก์และแฮชแท็กเดียวกัน โพสต์เนื้อหาที่คล้ายกัน และแม้กระทั่งมีส่วนร่วมซึ่งกันและกัน
นักวิจัยค้นหาทวีตของบัญชีบอท AI และพบทวีตที่เปิดเผยตัวเองถึง 1,205 ทวีต
จากทั้งหมดนี้ 81% มีวลีขอโทษแบบเดียวกัน:
"ฉันขอโทษ ฉันไม่สามารถปฏิบัติตามคำขอนี้ได้ เนื่องจากเป็นการฝ่าฝืน นโยบายเนื้อหาของ OpenAI ในการสร้างเนื้อหาที่เป็นอันตรายหรือไม่เหมาะสม ในฐานะที่เป็นแบบจำลองภาษา AI คำตอบของฉันควรเสมอ ให้ความเคารพและเหมาะสมกับผู้ชมทุกคน”
การใช้วลีนี้บ่งบอกว่าบอทได้รับคำสั่งให้สร้างเนื้อหาที่เป็นอันตรายซึ่งขัดต่อนโยบายของ OpenAI สำหรับ ChatGPT
ส่วนที่เหลืออีก 19% ใช้ภาษา "ในฐานะโมเดลภาษา AI" บางรูปแบบ โดย 12% ระบุว่า "ในฐานะโมเดลภาษา AI ฉันไม่สามารถเรียกดู Twitter หรือเข้าถึงทวีตเฉพาะเพื่อตอบกลับได้"
ความจริงที่ว่า 3% ของทวีตที่โพสต์โดยบอทเหล่านี้เชื่อมโยงกับหนึ่งในสามเว็บไซต์ (cryptnomics.org, fox8.news และ globaleconomics.news) ก็เป็นอีกเบาะแสหนึ่ง
เว็บไซต์เหล่านี้ดูเหมือนสำนักข่าวทั่วไป แต่มีธงสีแดงที่โดดเด่น เช่น ความจริงที่ว่าพวกเขาทั้งหมดลงทะเบียนในช่วงเวลาเดียวกันในเดือนกุมภาพันธ์ 2023 มีป๊อปอัปกระตุ้นให้ผู้ใช้ติดตั้งซอฟต์แวร์ที่น่าสงสัย ทั้งหมดดูเหมือนจะใช้ธีม WordPress เดียวกัน และมีโดเมน ที่แก้ไขเป็นที่อยู่ IP เดียวกัน
บัญชีบอทที่เป็นอันตรายสามารถใช้เทคนิคการเผยแพร่ด้วยตนเองในโซเชียลมีเดียโดยการโพสต์ลิงก์ที่มีมัลแวร์หรือเนื้อหาที่ติดไวรัส การแสวงหาประโยชน์และการติดไวรัสในรายชื่อติดต่อของผู้ใช้ การขโมยคุกกี้เซสชันจากเบราว์เซอร์ของผู้ใช้ และการดำเนินการตามคำขออัตโนมัติ