ความเสี่ยงที่ใหญ่ที่สุด 3 ประการจาก Generative AI - และวิธีจัดการกับสิ่งเหล่านั้น

ธุรกิจต่างๆ จำนวนมากกำลังมองหาการสำรวจ AI เชิงสร้างสรรค์ แต่พวกเขาจะต้องแน่ใจว่าพวกเขาสามารถจัดการความเสี่ยงได้เร็วกว่าในภายหลัง

บางครั้งรู้สึกเหมือนทุกคนทุกที่กำลังขลุกอยู่กับปัญญาประดิษฐ์ (AI) ตั้งแต่นักพัฒนาที่กำลังผลิตโค้ดไปจนถึงนักการตลาดที่กำลังสร้างเนื้อหา ผู้คนในทุกบทบาทกำลังค้นหาวิธีที่จะเพิ่มประสิทธิภาพการทำงานด้วยเทคโนโลยีที่เกิดขึ้นใหม่

ความเร่งรีบในการใช้ประโยชน์จาก AI หมายความว่านักวิเคราะห์ Gartner เชื่อว่ามากกว่า 80% ขององค์กรต่างๆ จะใช้อินเทอร์เฟซการเขียนโปรแกรมแอปพลิเคชัน AI แบบจำลอง และซอฟต์แวร์ในสภาพแวดล้อมการผลิตภายในปี 2569

แต่ก็ควรค่าแก่การจำไว้ว่าแม้จะมีกระแสโฆษณาที่เกี่ยวข้องกับ generative AI แต่องค์กรหลายแห่งก็ไม่ได้สนใจเทคโนโลยีนี้ อย่างน้อยก็ไม่เป็นทางการ

Generative AI ยังอยู่ในขั้นตอนการสำรวจสำหรับธุรกิจส่วนใหญ่ โดย Gartner รายงานว่าองค์กรน้อยกว่า 5% ใช้เทคโนโลยีนี้ในการผลิต

Lily Haake หัวหน้าฝ่ายเทคโนโลยีและการค้นหาผู้บริหารดิจิทัลของบริษัทนายหน้า Harvey Nash กล่าวในวิดีโอแชทกับ ZDNET ว่าการทำงานของเธอกับลูกค้าชี้ให้เห็นว่าโครงการ AI ขนาดใหญ่ไม่ได้อยู่ในวาระการประชุมในตอนนี้

"ฉันเห็นโครงการนำร่องเล็กๆ ที่น่าประทับใจจริงๆ เช่น ลูกค้าด้านกฎหมายที่ใช้ AI เพื่อสร้างเอกสารเพื่อสแกน caseloads และทำให้ผู้คนมีประสิทธิผลมากขึ้น" เธอกล่าว “ทั้งหมดนี้น่าตื่นเต้นและเป็นบวกมาก แต่มีขนาดเล็ก และนั่นเป็นเพราะลูกค้าของฉันไม่ได้สำรวจ generative AI ในระดับใหญ่จนทำให้เกิดการเปลี่ยนแปลงสำหรับธุรกิจทั้งหมด”

แทนที่จะใช้ AI เพื่อเปลี่ยนแปลงการดำเนินงานขององค์กรและปรับปรุงการบริการลูกค้า ผู้นำดิจิทัลส่วนใหญ่กำลังทดลองที่ขอบขององค์กร ก่อนที่จะคิดถึงวิธีนำบริการเชิงสร้างสรรค์ใหม่ๆ มาสู่แกนหลัก

อย่างไรก็ตาม เพียงเพราะธุรกิจไม่ได้บังคับให้ใช้ generative AI ไม่ได้หมายความว่าผู้เชี่ยวชาญไม่ได้ใช้เทคโนโลยีนี้อยู่แล้ว ไม่ว่าจะมีหรือไม่มีคำพูดของเจ้านายก็ตาม

การวิจัยโดยผู้เชี่ยวชาญด้านเทคโนโลยี O'Reilly แนะนำว่าผู้เชี่ยวชาญด้านไอที 44% ใช้ AI ในงานเขียนโปรแกรมอยู่แล้ว และ 34% กำลังทดลองกับมัน ผู้เชี่ยวชาญด้านไอทีเกือบหนึ่งในสาม (32%) ใช้ AI ในการวิเคราะห์ข้อมูล และ 38% กำลังทดลองใช้ AI

Mike Loukides ผู้เขียนรายงานกล่าวว่า O'Reilly รู้สึกประหลาดใจกับระดับการรับเลี้ยงบุตรบุญธรรม

แต่ในขณะที่เขาอธิบายการเติบโตของ generative AI ว่า "ระเบิดได้" Loukides กล่าวว่าองค์กรต่างๆ อาจเข้าสู่ "ฤดูหนาว AI" หากพวกเขาเพิกเฉยต่อความเสี่ยงและอันตรายที่มาพร้อมกับการนำเทคโนโลยีนี้ไปใช้อย่างเร่งรีบ

นั่นเป็นความรู้สึกที่สะท้อนกับ Avivah Litan รองประธานนักวิเคราะห์ที่มีชื่อเสียงของ Gartner ผู้ซึ่งแนะนำ CIO และเพื่อนร่วมงานในกลุ่ม C ของพวกเขาไม่สามารถนั่งเฉยๆ และรอได้

"คุณต้องจัดการความเสี่ยงก่อนที่จะจัดการคุณ" เธอกล่าวในการสัมภาษณ์ทางวิดีโอแบบตัวต่อตัวกับ ZDNET

Litan กล่าวว่า Gartner ได้สำรวจผู้บริหารกว่า 700 คนเกี่ยวกับความเสี่ยงของ generative AI ในการสัมมนาผ่านเว็บเมื่อเร็ว ๆ นี้ และพบว่า CIO กังวลมากที่สุดเกี่ยวกับความเป็นส่วนตัวของข้อมูล ตามมาด้วยภาพหลอน และความปลอดภัย

ลองพิจารณาแต่ละด้านตามลำดับ

1. ความเสี่ยงด้านความเป็นส่วนตัวและการปกป้องข้อมูล

ซีไอโอและผู้จัดการอาวุโสอื่นๆ ที่ใช้ generative AI ในเวอร์ชันองค์กรมักจะส่งข้อมูลของตนไปยังสภาพแวดล้อมที่โฮสต์ของผู้จำหน่าย

Litan ตระหนักดีว่าการจัดการประเภทนี้ไม่ใช่เรื่องใหม่ องค์กรต่างๆ ได้ส่งข้อมูลไปยังผู้ให้บริการระบบคลาวด์และซอฟต์แวร์มาเป็นเวลากว่าทศวรรษหรือมากกว่านั้น

อย่างไรก็ตาม เธอกล่าวว่า CIO เชื่อว่า AI เกี่ยวข้องกับความเสี่ยงประเภทต่างๆ โดยเฉพาะอย่างยิ่งเกี่ยวกับวิธีการจัดเก็บและใช้ข้อมูลของผู้ขาย เช่น สำหรับการฝึกอบรมโมเดลภาษาขนาดใหญ่ของตนเอง

Litan กล่าวว่า Gartner ได้ทำการวิเคราะห์โดยละเอียดเกี่ยวกับผู้จำหน่ายไอทีหลายรายที่นำเสนอบริการที่เปิดใช้งาน AI แล้ว

"สิ่งสำคัญที่สุดของการปกป้องข้อมูลคือ หากคุณใช้โมเดลพื้นฐานของบุคคลที่สาม ทุกอย่างขึ้นอยู่กับความไว้วางใจ แต่คุณไม่สามารถยืนยันได้" เธอกล่าว "ดังนั้น คุณต้องไว้วางใจว่าผู้ขายมีแนวทางปฏิบัติด้านความปลอดภัยที่ดี และข้อมูลของคุณจะไม่รั่วไหล และเราทุกคนรู้ดีว่าเกิดข้อผิดพลาดในระบบคลาวด์ หากข้อมูลที่เป็นความลับของคุณรั่วไหล ผู้ขายจะไม่รับผิดชอบ -- คุณจะ."

2. ความเสี่ยงด้านขาเข้าและขาออก

นอกจากการประเมินความเสี่ยงในการปกป้องข้อมูลในกระบวนการภายนอกแล้ว องค์กรจำเป็นต้องตระหนักถึงวิธีที่พนักงานใช้ข้อมูลในแอปพลิเคชันและโมเดล AI เชิงสร้างสรรค์

Litan กล่าวว่าความเสี่ยงประเภทนี้ครอบคลุมถึงการใช้ข้อมูลที่ไม่สามารถยอมรับได้ ซึ่งอาจส่งผลต่อกระบวนการตัดสินใจ รวมถึงการละเลยข้อมูลที่เป็นความลับ ทำให้เกิดภาพหลอนที่ไม่ถูกต้องเป็นผลลัพธ์ และการใช้ทรัพย์สินทางปัญญาจากบริษัทอื่น

เพิ่มประเด็นด้านจริยธรรมและความกลัวว่าแบบจำลองอาจมีอคติได้ และผู้นำทางธุรกิจต้องเผชิญกับความเสี่ยงด้านอินพุตและเอาท์พุตมาบรรจบกัน

Litan กล่าวว่าผู้บริหารที่จัดการการเปิดตัว generative AI จะต้องทำให้ผู้คนทั่วทั้งธุรกิจไม่มองข้ามสิ่งใดๆ

"คุณต้องตรวจสอบให้แน่ใจว่าคุณกำลังใช้ข้อมูลและ AI เชิงสร้างสรรค์ในลักษณะที่องค์กรของคุณยอมรับได้ คุณไม่ได้มอบกุญแจสู่อาณาจักรของคุณให้กับผู้อื่น และสิ่งที่กลับมานั้นได้รับการตรวจสอบเพื่อความไม่ถูกต้องและภาพหลอน " เธอพูดว่า.

3. ความเสี่ยงใหม่ด้านความปลอดภัยทางไซเบอร์

ธุรกิจต่างๆ จัดการกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ในแต่ละวัน เช่น แฮกเกอร์ที่เข้าถึงข้อมูลองค์กรเนื่องจากช่องโหว่ของระบบหรือข้อผิดพลาดของพนักงาน

อย่างไรก็ตาม Litan กล่าวว่า AI เป็นตัวแทนของเวกเตอร์ภัยคุกคามที่แตกต่างกัน

“สิ่งเหล่านี้เป็นความเสี่ยงใหม่” เธอกล่าว “มีการโจมตีแบบฉีดทันที การโจมตีฐานข้อมูลเวกเตอร์ และแฮกเกอร์สามารถเข้าถึงสถานะและพารามิเตอร์ของโมเดลได้”

แม้ว่าความเสี่ยงที่อาจเกิดขึ้นจะรวมถึงข้อมูลและการสูญเสียเงิน ผู้โจมตียังสามารถเลือกที่จะจัดการโมเดลและสลับข้อมูลที่ดีไปเป็นข้อมูลที่ไม่ดีได้

Litan กล่าวว่าเวกเตอร์ภัยคุกคามใหม่นี้หมายความว่าธุรกิจไม่สามารถจัดการกับความเสี่ยงใหม่ๆ ได้โดยใช้มาตรการเก่าที่ผ่านการทดลองและทดสอบแล้ว

“ผู้โจมตีสามารถทำให้โมเดลวางยาพิษได้” เธอกล่าว "คุณจะต้องใส่การรักษาความปลอดภัยให้กับโมเดล และเป็นการรักษาความปลอดภัยประเภทอื่น การป้องกันปลายทางจะไม่ช่วยคุณในการปกป้องโมเดลข้อมูล"

สิ่งที่ธุรกิจของคุณต้องทำตอนนี้

การรวมกันของความเสี่ยงจาก generative AI อาจดูเหมือนเป็นความท้าทายที่ยากสำหรับ CIO และผู้บริหารระดับสูงคนอื่นๆ

อย่างไรก็ตาม Litan กล่าวว่ามีโซลูชั่นใหม่ๆ ที่พัฒนาอย่างรวดเร็วพอๆ กับความเสี่ยงและโอกาสที่เกี่ยวข้องกับ generative AI ที่กำลังเกิดขึ้น

“คุณไม่จำเป็นต้องนั่งอยู่ที่นั่นและตื่นตระหนก” เธอกล่าว

“มีตลาดใหม่ที่กำลังพัฒนา อย่างที่คุณจินตนาการได้ เมื่อเกิดปัญหา ก็มีผู้ประกอบการที่ต้องการสร้างรายได้จากปัญหาเหล่านั้น”

ข่าวดีก็คือว่าโซลูชันที่ใช้การได้กำลังมาถึงแล้ว และในขณะที่ตลาดเทคโนโลยีสงบลง Litan กล่าวว่าผู้นำทางธุรกิจควรเตรียมพร้อม

"คำแนะนำที่สำคัญที่สุดที่เราให้กับ CIO คือ "จัดระเบียบ จากนั้นกำหนดนโยบายการใช้งานที่ยอมรับได้ของคุณ ตรวจสอบให้แน่ใจว่าข้อมูลของคุณได้รับการจัดประเภทและคุณมีการจัดการการเข้าถึง" เธอกล่าว

"ตั้งค่าระบบที่ผู้ใช้สามารถส่งคำขอแอปพลิเคชันได้ คุณรู้ว่าข้อมูลใดที่พวกเขาใช้อยู่ คนที่เหมาะสมจะอนุมัติคำขอเหล่านี้ และคุณตรวจสอบกระบวนการปีละสองครั้งเพื่อให้แน่ใจว่ามีการบังคับใช้อย่างถูกต้อง เพียงใช้ generative AI หนึ่งขั้นในเวลา."