Microsoft และ OpenAI กล่าวว่าแฮกเกอร์กําลังใช้ ChatGPT สําหรับการโจมตีทางไซเบอร์

Microsoft และ OpenAI ได้เตือนว่าแฮกเกอร์ของรัฐกําลังใช้ปัญญาประดิษฐ์ (AI) และโมเดลภาษาขนาดใหญ่ (LLM) เป็นอาวุธเพื่อปรับปรุงการโจมตีทางไซเบอร์ที่กําลังดําเนินอยู่

จากการศึกษาที่จัดทําโดย Microsoft Threat Intelligence ร่วมกับ OpenAI ทั้งสองบริษัทได้ระบุและขัดขวางผู้กระทําในเครือของรัฐห้ารายที่ต้องการใช้บริการ AI เพื่อสนับสนุนกิจกรรมทางไซเบอร์ที่เป็นอันตราย

นักแสดงในเครือรัฐเหล่านี้เกี่ยวข้องกับประเทศต่างๆ เช่น รัสเซีย เกาหลีเหนือ อิหร่าน และจีน

ผู้ประสงค์ร้ายในเครือรัฐห้าราย ได้แก่ ผู้คุกคามในเครือจีนสองรายที่รู้จักกันในชื่อ Charcoal Typhoon (CHROMIUM) และ Salmon Typhoon (SODIUM) ผู้คุกคามในเครืออิหร่านที่รู้จักกันในชื่อ Crimson Sandstorm (CURIUM); นักแสดงในเครือเกาหลีเหนือที่รู้จักกันในชื่อ Emerald Slet (THALLIUM); และนักแสดงในเครือรัสเซียที่รู้จักกันในชื่อ Forest Blizzard (STRONTIUM)

ตัวอย่างเช่น OpenAI รายงานว่า Charcoal Typhoon ของจีนใช้บริการของตนเพื่อค้นคว้าบริษัทต่างๆ และเครื่องมือความปลอดภัยทางไซเบอร์ แก้ไขข้อบกพร่องของโค้ดและสร้างสคริปต์ และสร้างเนื้อหาที่น่าจะใช้ในแคมเปญฟิชชิ่ง

อีกตัวอย่างหนึ่งคือ Crimson Sandstorm ของอิหร่านซึ่งใช้ LLM เพื่อสร้างข้อมูลโค้ดที่เกี่ยวข้องกับการพัฒนาแอปและเว็บสร้างเนื้อหาที่มีแนวโน้มสําหรับแคมเปญสเปียร์ฟิชชิ่งและเพื่อความช่วยเหลือในการพัฒนาโค้ดเพื่อหลีกเลี่ยงการตรวจจับ

นอกจากนี้ Forest Blizzard ซึ่งเป็นกลุ่มรัฐชาติของรัสเซีย กล่าวกันว่าได้ใช้บริการ OpenAI เป็นหลักสําหรับการวิจัยโอเพ่นซอร์สในโปรโตคอลการสื่อสารผ่านดาวเทียมและเทคโนโลยีการถ่ายภาพเรดาร์ ตลอดจนการสนับสนุนงานสคริปต์

OpenAI กล่าวเมื่อวันพุธว่าได้ยุติบัญชี OpenAI ที่ระบุซึ่งเชื่อมโยงกับผู้ประกอบการแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐ โดยทั่วไปแล้วนักแสดงเหล่านี้พยายามใช้บริการ OpenAI เพื่อสืบค้นข้อมูลโอเพ่นซอร์ส แปล ค้นหาข้อผิดพลาดในการเข้ารหัส และเรียกใช้งานเขียนโค้ดพื้นฐาน

"การสนับสนุนด้านภาษาเป็นคุณลักษณะตามธรรมชาติของ LLM และน่าสนใจสําหรับผู้คุกคามที่มุ่งเน้นไปที่วิศวกรรมสังคมและเทคนิคอื่นๆ อย่างต่อเนื่องโดยอาศัยการสื่อสารที่เป็นเท็จและหลอกลวงซึ่งปรับให้เหมาะกับงานของเป้าหมาย การวิจัยของเรากับ OpenAI ไม่ได้ระบุการโจมตีที่สําคัญที่ใช้ LLM ที่เราตรวจสอบอย่างใกล้ชิด" อ่านรายงานความปลอดภัย AI ใหม่ที่เผยแพร่โดย Microsoft เมื่อวันพุธโดยร่วมมือกับ OpenAI

โชคดีที่ยังไม่พบการโจมตีที่สําคัญหรือใหม่ที่ใช้เทคโนโลยี LLM ตามข้อมูลของบริษัท "การวิเคราะห์ของเราเกี่ยวกับการใช้เทคโนโลยี LLM ในปัจจุบันโดยผู้คุกคามเผยให้เห็นพฤติกรรมที่สอดคล้องกับผู้โจมตีที่ใช้ AI เป็นเครื่องมือเพิ่มประสิทธิภาพอีกอย่างหนึ่ง Microsoft และ OpenAI ยังไม่ได้สังเกตเห็นเทคนิคการโจมตีหรือการละเมิดที่เปิดใช้งาน AI ที่แปลกใหม่หรือไม่ซ้ําใครซึ่งเป็นผลมาจากการใช้ AI ของผู้คุกคาม" Microsoft ระบุในรายงาน

เพื่อตอบสนองต่อภัยคุกคาม Microsoft ได้ประกาศชุดหลักการที่กําหนดนโยบายและการดําเนินการเพื่อต่อสู้กับการละเมิดบริการ AI โดยภัยคุกคามต่อเนื่องขั้นสูง (APT) ผู้บงการถาวรขั้นสูง (APM) และองค์กรอาชญากรไซเบอร์

"หลักการเหล่านี้รวมถึงการระบุและการดําเนินการกับการแจ้งเตือนการใช้ผู้คุกคามที่เป็นอันตรายต่อผู้ให้บริการ AI รายอื่น การทํางานร่วมกันกับผู้มีส่วนได้ส่วนเสียอื่นๆ และความโปร่งใส" ยักษ์ใหญ่ของ Redmond กล่าว