แฮกเกอร์ชาวรัสเซียพยายามเจาะเข้าสู่ ChatGPT Check Point กล่าว
นั่นเป็นหนึ่งในความพยายามอย่างต่อเนื่องในการประนีประนอมบอทภาษา ซึ่งเป็นภัยคุกคามที่อาจนำไปสู่การโจมตีแบบฟิชชิ่งที่มีเป้าหมายสูง
ผู้แสดงภัยคุกคามทุกรูปแบบพยายามประนีประนอมโปรแกรม ChatGPT ของ OpenAI ตามข้อมูลของบริษัทรักษาความปลอดภัยทางไซเบอร์ Check Point Software Technologies
Pete Nicoletti หัวหน้าเจ้าหน้าที่รักษาความปลอดภัยข้อมูลภาคสนามของ Check Point กล่าวในการประชุมกลุ่มเล็ก ๆ เมื่อวันพฤหัสบดีระหว่างการประชุมของบริษัทว่า "ที่ Check Point Research เราเห็นได้ว่าชาวรัสเซียพยายามฝ่าฟันข้อจำกัดทางภูมิศาสตร์ในภูมิภาคที่เกี่ยวข้องกับ ChatGPT" งานลูกค้าและพันธมิตรในนิวยอร์กซิตี้
Nicoletti อ้างถึงข้อจำกัดในการเข้าถึง ChatGPT application programming interface (API) ที่จะบล็อกคำขอขาเข้าจากรัสเซีย
Check Point Research คือเครื่องมือตรวจจับภัยคุกคามที่คอยจับตาดูมัลแวร์รูปแบบใหม่ Nicoletti ไม่ได้ลงรายละเอียดเกี่ยวกับวิธีที่ Check Point Research ตรวจสอบระบบเพื่อตรวจจับความพยายามในการเข้าถึง
นิโคเล็ตติกล่าวว่าการตรวจสอบรหัสของแฮกเกอร์ชาวรัสเซียสะท้อนให้เห็นเพียงหนึ่งในจำนวนที่เพิ่มขึ้นของฝ่ายที่พยายามเข้าถึง “นักแสดงที่ดีและไม่ดีจะถูกใช้” Nicoletti จาก ChatGPT กล่าว
สถานการณ์ของ ChatGPT ไม่เหมือนกับสถานการณ์ที่นำไปสู่ภัยคุกคาม EternalBlue ปี 2017 ซึ่งเป็นผลมาจากโค้ดรั่วไหลจากห้องปฏิบัติการ Nicoletti กล่าวแทน การใช้ ChatGPT คือ "การใช้แพลตฟอร์มแบบเปิดโดยทั่วไปโดยฝ่ายต่างๆ มากมาย" ซึ่งคล้ายกับกรณีการใช้งานสถาปัตยกรรมโมเดล AI จำนวนมากในชุมชนการวิจัย
Nicoletti ตั้งข้อสังเกตว่าใน Reddit มีการพยายามหาช่องโหว่ที่เรียกว่า DAN เพื่อ "ทำอะไรตอนนี้" ซึ่งจะใช้พรอมต์การแชทเพื่อจัดการ ChatGPT ให้สร้างข้อความที่หนีจากรั้วที่ OpenAI วางไว้เพื่อป้องกันไม่ให้สร้างข้อความบางส่วน เช่น คำพูดแสดงความเกลียดชัง
Nicoletti กล่าวว่าไม่แน่ใจว่ามีช่องโหว่แบบ Zero-day ปรากฏขึ้นสำหรับ ChatGPT หรือไม่ แนวทางการโจมตีที่น่าจะเป็นไปได้มากที่สุด เมื่อช่องโหว่ปรากฏขึ้นในที่สุด จะเป็นการโจมตีแบบฟิชชิ่งที่ได้รับการปรับปรุงให้ดีขึ้น เขากล่าว
"ข้อมูลดังกล่าวจะตกเป็นเป้าหมายของคุณอย่างมาก เนื่องจากพวกเขามีแหล่งที่มาของข้อมูลส่วนบุคคลหลายแหล่งอยู่แล้ว ซึ่งพวกเขาได้รวบรวมเกี่ยวกับคุณจากไซต์ที่ถูกแฮ็กหลายแห่ง รวมถึงการโพสต์บนโซเชียลมีเดียทั้งหมดของคุณ และตอนนี้พวกเขาสามารถสร้างภาษาที่เฉพาะเจาะจงมากขึ้นเพื่อทำสิ่งนั้นได้ เกี่ยวข้องกับคุณและเหยื่อแต่ละราย" นิโคเล็ตติกล่าว โดยเปรียบเทียบแนวทางกับบริการข้อมูลแบบ "จำกัดขอบเขต" ซึ่งช่วยให้สามารถกระจายการโจมตีแบบฟิชชิ่งที่มีเป้าหมายสูงได้จำนวนมาก
ในระหว่างการนำเสนอประเด็นสำคัญของ Check Point ในวันเดียวกันนั้น Gil Shwed ผู้ก่อตั้งและซีอีโอได้ประกาศว่าปี 2023 จะเป็น "ปีแห่ง AI" และผลิตภัณฑ์ของบริษัทจะใช้ AI เพิ่มมากขึ้นตลอดกลุ่มผลิตภัณฑ์