สิงคโปร์กำลังทำงานเกี่ยวกับแนวทางทางเทคนิคสำหรับการรักษาความปลอดภัยระบบ AI

แนวปฏิบัติโดยสมัครใจจะเป็นข้อมูลอ้างอิงสำหรับผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ที่ต้องการปรับปรุงความปลอดภัยของ AI

สิงคโปร์วางแผนที่จะออกคำสั่งเร็วๆ นี้ โดยระบุว่าจะเสนอ "มาตรการเชิงปฏิบัติ" เพื่อเสริมการรักษาความปลอดภัยของเครื่องมือและระบบปัญญาประดิษฐ์ (AI) หน่วยงานรักษาความปลอดภัยทางไซเบอร์ (CSA) มีกำหนดเผยแพร่ร่างหลักเกณฑ์ทางเทคนิคสำหรับการรักษาความปลอดภัยระบบ AI เพื่อการปรึกษาหารือสาธารณะในปลายเดือนนี้ ตามที่ Janil Puthucheary รัฐมนตรีอาวุโสกระทรวงการสื่อสารและข้อมูลของสิงคโปร์กล่าว

แนวทางสมัครใจสามารถนำมาใช้ควบคู่ไปกับกระบวนการรักษาความปลอดภัยที่มีอยู่ซึ่งองค์กรต่างๆ นำไปใช้เพื่อจัดการกับความเสี่ยงที่อาจเกิดขึ้นในระบบ AI Puthucheary กล่าวในระหว่างการกล่าวเปิดงานเมื่อวันพุธที่การประชุมสุดยอดด้านความปลอดภัย AI ของสมาคมผู้เชี่ยวชาญด้านความปลอดภัยข้อมูล (AiSP)

CSA หวังที่จะเสนอแนวทางทางเทคนิคที่เป็นประโยชน์สำหรับผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ที่ต้องการปรับปรุงความปลอดภัยของเครื่องมือ AI ของตน รัฐมนตรีกล่าว นอกจากนี้เขายังกระตุ้นให้อุตสาหกรรมและชุมชนมีส่วนร่วมในการทำให้เครื่องมือและระบบ AI ยังคงปลอดภัยและมั่นคงจากภัยคุกคามที่เป็นอันตราย แม้ว่าเทคนิคต่างๆ จะยังคงพัฒนาต่อไปก็ตาม

“ในช่วงสองสามปีที่ผ่านมา AI ได้แพร่กระจายอย่างรวดเร็วและถูกนำไปใช้ในพื้นที่ที่หลากหลาย” Puthucheary กล่าว “สิ่งนี้ส่งผลกระทบอย่างมีนัยสำคัญต่อภาพรวมภัยคุกคาม เรารู้ว่าการพัฒนาอย่างรวดเร็วและการนำ AI มาใช้ทำให้เราเสี่ยงใหม่ ๆ มากมาย [รวมถึง] การเรียนรู้ของเครื่องฝ่ายตรงข้าม ซึ่งช่วยให้ผู้โจมตีสามารถประนีประนอมฟังก์ชั่นของแบบจำลองได้”

เขาชี้ให้เห็นว่าผู้จำหน่ายระบบรักษาความปลอดภัย McAfee ประสบความสำเร็จในการประนีประนอม Mobileye ได้อย่างไรโดยการเปลี่ยนแปลงสัญญาณจำกัดความเร็วที่ระบบ AI ได้รับการฝึกให้จดจำ

AI กำลังกระตุ้นให้เกิดความเสี่ยงด้านความปลอดภัยใหม่ๆ และองค์กรภาครัฐและเอกชนจะต้องทำงานเพื่อทำความเข้าใจภาพรวมภัยคุกคามที่กำลังพัฒนานี้ Puthucheary กล่าว เขากล่าวเสริมว่า CIO ของรัฐบาลสิงคโปร์ หรือ Government Technology Agency (GovTech) กำลังพัฒนาขีดความสามารถเพื่อจำลองการโจมตีที่อาจเกิดขึ้นกับระบบ AI เพื่อทำความเข้าใจว่าการโจมตีดังกล่าวจะส่งผลกระทบต่อความปลอดภัยของแพลตฟอร์มดังกล่าวได้อย่างไร “การทำเช่นนี้จะช่วยให้เราวางมาตรการป้องกันที่เหมาะสมได้” เขากล่าว

Puthucheary กล่าวเพิ่มเติมว่าความพยายามในการป้องกันภัยคุกคามที่มีอยู่ให้ดีขึ้นจะต้องดำเนินต่อไป เนื่องจาก AI มีความเสี่ยงต่อภัยคุกคามทางไซเบอร์ "คลาสสิก" เช่น การกำหนดเป้าหมายความเป็นส่วนตัวของข้อมูล เขาตั้งข้อสังเกตว่าการนำ AI มาใช้เพิ่มมากขึ้นจะขยายขอบเขตการโจมตี ซึ่งทำให้ข้อมูลสามารถถูกเปิดเผย บุกรุก หรือรั่วไหลได้ เขากล่าวว่า AI สามารถนำไปใช้เพื่อสร้างมัลแวร์ที่ซับซ้อนมากขึ้น เช่น WormGPT ซึ่งอาจเป็นเรื่องยากที่ระบบรักษาความปลอดภัยที่มีอยู่จะตรวจจับได้

ในเวลาเดียวกัน AI สามารถใช้ประโยชน์เพื่อปรับปรุงการป้องกันทางไซเบอร์และผู้เชี่ยวชาญด้านความปลอดภัยของอาวุธด้วยความสามารถในการระบุความเสี่ยงได้เร็วขึ้น ในวงกว้าง และแม่นยำยิ่งขึ้น รัฐมนตรีกล่าว เขากล่าวว่าเครื่องมือรักษาความปลอดภัยที่ขับเคลื่อนโดยการเรียนรู้ของเครื่องสามารถช่วยตรวจจับความผิดปกติและดำเนินการอัตโนมัติเพื่อบรรเทาภัยคุกคามที่อาจเกิดขึ้น

จากข้อมูลของ Puthucheary AiSP กำลังจัดตั้งกลุ่มผลประโยชน์พิเศษด้าน AI ซึ่งสมาชิกสามารถแลกเปลี่ยนข้อมูลเชิงลึกเกี่ยวกับการพัฒนาและความสามารถได้ AiSP ก่อตั้งขึ้นในปี 2551 โดยนิยามตนเองว่าเป็นกลุ่มอุตสาหกรรมที่มุ่งเน้นการขับเคลื่อนความสามารถทางเทคนิคและผลประโยชน์ของชุมชนความปลอดภัยทางไซเบอร์ในสิงคโปร์

ในเดือนเมษายน ศูนย์รักษาความปลอดภัย AI ของหน่วยงานความมั่นคงแห่งชาติสหรัฐฯ เผยแพร่เอกสารข้อมูล Deploying AI Systems Securely ซึ่งระบุว่าเสนอแนวปฏิบัติที่ดีที่สุดในการติดตั้งและใช้งานระบบ AI

แนวปฏิบัตินี้ได้รับการพัฒนาร่วมกับหน่วยงานรักษาความปลอดภัยทางไซเบอร์และความมั่นคงสารสนเทศของสหรัฐอเมริกา โดยมีจุดมุ่งหมายเพื่อเพิ่มความสมบูรณ์และความพร้อมใช้งานของระบบ AI และสร้างความบรรเทาช่องโหว่ที่ทราบในระบบ AI เอกสารนี้ยังสรุปวิธีการและการควบคุมเพื่อตรวจจับและตอบสนองต่อกิจกรรมที่เป็นอันตรายต่อระบบ AI และข้อมูลที่เกี่ยวข้อง