สิงคโปร์ระบุความเสี่ยงด้าน AI หกประการ พร้อมวางรากฐานเพื่อเป็นแนวทางในการนำไปใช้

AI Verify Foundation จะพัฒนาชุดเครื่องมือทดสอบที่ช่วยลดความเสี่ยงของ AI

สิงคโปร์ได้ระบุความเสี่ยงหลัก 6 ประการที่เกี่ยวข้องกับเจนเนอเรทีฟปัญญาประดิษฐ์ (AI) และเสนอกรอบการทำงานเกี่ยวกับวิธีการแก้ไขปัญหาเหล่านี้ นอกจากนี้ยังได้สร้างรากฐานที่มุ่งหวังที่จะเข้าถึงชุมชนโอเพ่นซอร์สเพื่อพัฒนาชุดเครื่องมือทดสอบที่ช่วยลดความเสี่ยงในการนำ AI มาใช้

ภาพหลอน การบิดเบือนข้อมูลอย่างรวดเร็ว การท้าทายด้านลิขสิทธิ์ และอคติที่ฝังแน่น คือหนึ่งในความเสี่ยงหลักของ generative AI ที่ระบุไว้ในรายงานที่เผยแพร่โดย Infocomm Media Development Authority (IMDA) ของสิงคโปร์ เอกสารอภิปรายให้รายละเอียดเกี่ยวกับกรอบการทำงานของประเทศในการนำเทคโนโลยีเกิดใหม่มาใช้ "อย่างน่าเชื่อถือและมีความรับผิดชอบ" รวมถึงมาตรฐานการเปิดเผยข้อมูลและความสามารถในการทำงานร่วมกันทั่วโลก รายงานดังกล่าวได้รับการพัฒนาร่วมกับ Aicadium ซึ่งเป็นบริษัทเทคโนโลยี AI ที่ก่อตั้งโดยบริษัทการลงทุนของรัฐ Temasek Holdings

กรอบการทำงานนี้แสดงให้เห็นว่าผู้กำหนดนโยบายสามารถส่งเสริมการกำกับดูแล AI ที่มีอยู่เพื่อจัดการกับ "ลักษณะเฉพาะ" และข้อกังวลในทันทีเกี่ยวกับ generative AI ได้อย่างไร นอกจากนี้ยังกล่าวถึงการลงทุนที่จำเป็นเพื่อให้มั่นใจถึงผลลัพธ์การกำกับดูแลในระยะยาว IMDA กล่าว

ในการระบุภาพหลอนเป็นความเสี่ยงหลัก รายงานระบุว่า เช่นเดียวกับโมเดล AI ทั้งหมด โมเดล AI ทั่วไปมักทำผิดพลาด และสิ่งเหล่านี้มักจะชัดเจนและกลายเป็นมนุษย์

“เป็นที่รู้กันว่า ChatGPT เวอร์ชันปัจจุบันและอดีตทำให้เกิดข้อผิดพลาดตามข้อเท็จจริง โมเดลดังกล่าวยังมีความท้าทายมากขึ้นในการทำงานต่างๆ เช่น ตรรกะ คณิตศาสตร์ และสามัญสำนึก” เอกสารการอภิปรายระบุ

"นี่เป็นเพราะว่า ChatGPT เป็นรูปแบบการใช้ภาษาของผู้คน แม้ว่าภาษามักจะสะท้อนโลก แต่ระบบเหล่านี้ยังไม่มีความเข้าใจอย่างลึกซึ้งเกี่ยวกับวิธีการทำงานของโลก"

การตอบสนองที่ผิดพลาดเหล่านี้สามารถโน้มน้าวใจหรือเป็นความจริงได้ รายงานกล่าวเสริม โดยชี้ว่าแบบจำลองภาษาสร้างคำตอบทางการแพทย์ที่ดูเหมือนถูกต้องแต่มีข้อผิดพลาดได้อย่างไร รวมถึงการสร้างโค้ดซอฟต์แวร์ที่เสี่ยงต่อช่องโหว่

นอกจากนี้ การเผยแพร่เนื้อหาที่เป็นเท็จยังระบุได้ยากมากขึ้น เนื่องจากข้อความ รูปภาพ และวิดีโอที่น่าเชื่อถือแต่ทำให้เข้าใจผิด ซึ่งอาจสร้างขึ้นได้ในวงกว้างโดยใช้ generative AI

การโจมตีด้วยการแอบอ้างบุคคลอื่นและชื่อเสียงทำได้ง่ายขึ้น รวมถึงการโจมตีทางวิศวกรรมสังคมที่ใช้ Deepfakes เพื่อเข้าถึงบุคคลที่มีสิทธิ์พิเศษ

Geneative AI ยังทำให้สามารถก่อให้เกิดอันตรายประเภทอื่นๆ ได้ โดยที่ผู้คุกคามที่ไม่มีทักษะทางเทคนิคเพียงเล็กน้อยหรือไม่มีเลยก็สามารถสร้างโค้ดที่เป็นอันตรายได้

ความเสี่ยงที่เกิดขึ้นใหม่เหล่านี้อาจต้องใช้แนวทางใหม่ในการกำกับดูแล generative AI ตามรายงานการอภิปราย

Josephine Teo รัฐมนตรีกระทรวงการสื่อสารและข้อมูลของสิงคโปร์ตั้งข้อสังเกตว่าผู้นำระดับโลกยังคงสำรวจสถาปัตยกรรมและแนวทาง AI ทางเลือก โดยมีคนจำนวนมากออกคำเตือนเกี่ยวกับอันตรายของ AI

AI ส่งมอบ "ความฉลาดเหมือนมนุษย์" ในระดับที่อาจสูงและมีค่าใช้จ่ายลดลงอย่างมาก ซึ่งมีคุณค่าอย่างยิ่งสำหรับประเทศต่างๆ เช่น สิงคโปร์ ซึ่งทุนมนุษย์เป็นตัวสร้างความแตกต่างที่สำคัญ Teo ซึ่งกำลังพูดในการประชุมสุดยอด Asia Tech x Singapore ในสัปดาห์นี้กล่าว .

อย่างไรก็ตาม การใช้ AI อย่างไม่เหมาะสมอาจส่งผลเสียร้ายแรงได้ เธอตั้งข้อสังเกต "Guardrails จึงจำเป็นในการแนะนำให้ผู้คนใช้มันอย่างมีความรับผิดชอบ และเพื่อให้ผลิตภัณฑ์ AI 'ปลอดภัยสำหรับพวกเราทุกคน' ด้วยการออกแบบ" เธอกล่าว

“เราหวังว่า [เอกสารการอภิปราย] จะจุดประกายการสนทนามากมาย และสร้างความตระหนักรู้เกี่ยวกับรั้วที่จำเป็น” เธอกล่าวเสริม

ในระหว่างการสนทนาแบบปิดที่การประชุมสุดยอด เธอเปิดเผยว่าเจ้าหน้าที่ระดับสูงของรัฐยังได้ถกเถียงถึงความก้าวหน้าล่าสุดใน AI รวมถึงโมเดล AI เชิงสร้างสรรค์ และพิจารณาว่าสิ่งเหล่านี้สามารถกระตุ้นการเติบโตทางเศรษฐกิจและส่งผลกระทบต่อสังคมได้อย่างไร

เจ้าหน้าที่มีฉันทามติว่า AI จะต้องได้รับการควบคุมและนำไปใช้ "อย่างเหมาะสม" เพื่อประโยชน์ของมนุษยชาติ Teo ซึ่งเป็นผู้สรุปสรุปในฐานะประธานการอภิปรายกล่าว ผู้เข้าร่วมการประชุม ซึ่งรวมถึงรัฐมนตรี เป็นตัวแทนของประเทศต่างๆ ซึ่งรวมถึงเยอรมนี ญี่ปุ่น ไทย และเนเธอร์แลนด์

ผู้ร่วมประชุมยังเห็นพ้องกันว่าการเพิ่มความร่วมมือและการแลกเปลี่ยนข้อมูลเกี่ยวกับนโยบายการกำกับดูแล AI จะช่วยระบุจุดร่วมและนำไปสู่การจัดแนวระหว่างแนวทางที่ดีขึ้น ความสามัคคีนี้จะนำไปสู่กรอบการกำกับดูแล AI และมาตรฐานทางเทคนิคที่ยั่งยืนและเหมาะสมกับวัตถุประสงค์ Teo กล่าว

เจ้าหน้าที่เรียกร้องให้มีการทำงานร่วมกันมากขึ้นระหว่างกรอบการกำกับดูแล ซึ่งพวกเขาเชื่อว่ามีความจำเป็นเพื่ออำนวยความสะดวกในการพัฒนาอย่างรับผิดชอบและการนำเทคโนโลยี AI มาใช้ทั่วโลก

นอกจากนี้ ยังเป็นที่ยอมรับด้วยว่าควรปลูกฝังจริยธรรมของ AI ในระยะเริ่มต้นของการศึกษา ในขณะที่การลงทุนในการเพิ่มทักษะใหม่ควรได้รับการจัดลำดับความสำคัญ

การชุบสังกะสีให้กับชุมชน

สิงคโปร์ได้เปิดตัวมูลนิธิที่ไม่แสวงหาผลกำไรเพื่อ "ควบคุมพลังโดยรวม" และการมีส่วนร่วมของชุมชนโอเพ่นซอร์สทั่วโลกเพื่อพัฒนาเครื่องมือทดสอบ AI เป้าหมายคือการอำนวยความสะดวกในการนำ AI ที่มีความรับผิดชอบมาใช้ และส่งเสริมแนวทางปฏิบัติและมาตรฐานที่ดีที่สุดสำหรับ AI

เรียกว่ามูลนิธิ AI Verify โดยจะกำหนดทิศทางเชิงกลยุทธ์และแผนงานการพัฒนาของ AI Verify ซึ่งเปิดตัวเมื่อปีที่แล้วในฐานะกรอบงานและชุดเครื่องมือการทดสอบการกำกับดูแล ชุดเครื่องมือทดสอบได้รับการสร้างเป็นโอเพ่นซอร์ส

สมาชิกปัจจุบันของมูลนิธิ AI Verify Foundation จำนวน 60 ราย ได้แก่ IBM, Salesforce, DBS, Singapore Airlines, Zoom, Hitachi และ Standard Chartered

มูลนิธิดำเนินงานในฐานะบริษัทในเครือที่ถือหุ้นทั้งหมดภายใต้ IMDA ด้วยเทคโนโลยีการทดสอบ AI ที่ยังเพิ่งเกิดขึ้น หน่วยงานรัฐบาลสิงคโปร์กล่าวว่าการแตะชุมชนโอเพ่นซอร์สและการวิจัยจะช่วยพัฒนาส่วนตลาดต่อไป

Teo กล่าวว่า: "เราเชื่อว่า AI เป็นการเปลี่ยนแปลงครั้งใหญ่ครั้งต่อไปนับตั้งแต่อินเทอร์เน็ตและอุปกรณ์เคลื่อนที่ ท่ามกลางความกลัวและความกังวลเกี่ยวกับการพัฒนาอย่างแท้จริง เราจะต้องนำทาง AI ไปสู่การใช้งานที่เป็นประโยชน์และหลีกหนีจากการใช้งานที่ไม่ดี นี่เป็นหัวใจสำคัญของวิธีที่สิงคโปร์ คิดถึงเอไอ”

ในสุนทรพจน์ของเขาที่การประชุมสุดยอด รองนายกรัฐมนตรีและรัฐมนตรีกระทรวงการคลังของสิงคโปร์ ลอว์เรนซ์ หว่อง ย้ำถึงความสำคัญของการสร้างความไว้วางใจใน AI เพื่อให้เทคโนโลยีดังกล่าวได้รับการยอมรับอย่างกว้างขวาง

“เรากำลังใช้การเรียนรู้ของเครื่องเพื่อเพิ่มประสิทธิภาพการตัดสินใจ และ AI เชิงสร้างสรรค์จะไปไกลกว่านั้นเพื่อสร้างเนื้อหาใหม่ที่มีศักยภาพและสร้างแนวคิดใหม่” Wong กล่าว “แต่ยังคงมีข้อกังวลร้ายแรง การใช้ [AI] อย่างไม่เหมาะสมสามารถขยายอคติที่เป็นอันตรายในการตัดสินใจได้ และด้วยคลื่นลูกล่าสุดของ AI ความเสี่ยงก็จะสูงขึ้นเมื่อ AI มีความใกล้ชิดและมีลักษณะเหมือนมนุษย์มากขึ้น”

ความท้าทายเหล่านี้ก่อให้เกิดคำถามที่ยากสำหรับหน่วยงานกำกับดูแล ธุรกิจ และสังคมโดยรวม เขากล่าว “งานประเภทใดที่ AI ควรได้รับอนุญาตให้ช่วยเหลือ AI ควรควบคุมการตัดสินใจได้มากน้อยเพียงใด และเราควรวางมาตรการป้องกันทางจริยธรรมอะไรบ้างเพื่อช่วยเป็นแนวทางในการพัฒนา”

Wong กล่าวเสริมว่า "ไม่มีบุคคล องค์กร หรือแม้แต่ประเทศใดที่จะมีคำตอบทั้งหมดได้ เราทุกคนจะต้องมารวมตัวกันเพื่อมีส่วนร่วมในการอภิปรายเชิงวิพากษ์วิจารณ์ เพื่อกำหนดรั้วที่เหมาะสมซึ่งจำเป็นต่อการสร้างระบบ AI ที่น่าเชื่อถือมากขึ้น"

ในการอภิปรายแบบกลุ่ม Alexandra van Huffelen จากกระทรวงมหาดไทยและราชอาณาจักรสัมพันธ์ของเนเธอร์แลนด์ ตระหนักถึงประโยชน์ที่เป็นไปได้ของ AI แต่แสดงความกังวลเกี่ยวกับผลกระทบที่อาจเกิดขึ้น โดยเฉพาะอย่างยิ่งท่ามกลางสัญญาณที่หลากหลายจากอุตสาหกรรม

รัฐมนตรีว่าการกระทรวงการแปลงเป็นดิจิทัลตั้งข้อสังเกตว่าผู้เล่นในตลาด เช่น OpenAI ยกย่องคุณประโยชน์ของผลิตภัณฑ์ของตน แต่ในขณะเดียวกันก็ออกคำเตือนว่า AI มีศักยภาพในการทำลายมนุษยชาติ

"นั่นเป็นเรื่องราวบ้าๆ ที่จะเล่า" van Huffelen พูดเหน็บก่อนจะถามผู้ร่วมอภิปรายจาก Microsoft ว่าเขารู้สึกอย่างไรเมื่อบริษัทของเขาเป็นผู้ลงทุนใน OpenAI ซึ่งเป็นผู้ผลิตผลงานเบื้องหลัง ChatGPT

เมื่อเดือนที่แล้วผู้ร่วมก่อตั้งและซีอีโอของ OpenAI ได้ร่วมกันเผยแพร่ข้อความบนเว็บไซต์ของบริษัท โดยเรียกร้องให้มีกฎระเบียบของระบบ AI "เหนือข่าวกรอง" พวกเขาพูดคุยเกี่ยวกับความจำเป็นในการมีหน่วยงานระดับโลก เช่น สำนักงานพลังงานปรมาณูระหว่างประเทศ เพื่อดูแลการพัฒนา AI หน่วยงานนี้ควร "ตรวจสอบระบบ ต้องมีการตรวจสอบ ทดสอบการปฏิบัติตามมาตรฐานความปลอดภัย วางข้อจำกัดเกี่ยวกับระดับการใช้งาน และระดับความปลอดภัย" นอกเหนือจากความรับผิดชอบอื่นๆ พวกเขาเสนอ

“สิ่งสำคัญคือหน่วยงานดังกล่าวมุ่งเน้นไปที่การลดความเสี่ยงที่มีอยู่ และไม่ใช่ประเด็นที่ควรปล่อยให้เป็นของแต่ละประเทศ เช่น การกำหนดสิ่งที่ AI ควรได้รับอนุญาตให้พูด” พวกเขาตั้งข้อสังเกต "ในแง่ของศักยภาพทั้งด้านบวกและด้านลบ สติปัญญาขั้นสูงจะมีพลังมากกว่าเทคโนโลยีอื่นๆ ที่มนุษยชาติต้องเผชิญในอดีต...เมื่อพิจารณาถึงความเป็นไปได้ที่จะเกิดความเสี่ยง เราจึงไม่สามารถเพียงแต่โต้ตอบได้ พลังงานนิวเคลียร์เป็นพลังงานที่แพร่หลายโดยทั่วไป ใช้ตัวอย่างทางประวัติศาสตร์ของเทคโนโลยีกับคุณสมบัตินี้"

เพื่อเป็นการตอบสนอง Ahmed Mashari ประธานเอเชียของ Microsoft ยอมรับว่าการตอบโต้ของ van Huffelen นั้นไม่สมเหตุสมผล โดยสังเกตว่าผู้เสนอคนเดียวกันที่ลงนามในคำร้องในเดือนมีนาคมเพื่อหยุดการพัฒนา AI ชั่วคราว ได้ดำเนินการในเดือนถัดไปเพื่อลงทุนในแชทบอท AI ของตนเอง

Mazhari ชี้ให้เห็นถึงความเสียหายทางสังคมที่เกิดจากการขาดการดูแลแพลตฟอร์มโซเชียลมีเดีย โดยกล่าวว่าอุตสาหกรรมเทคโนโลยีมีความรับผิดชอบในการป้องกันความล้มเหลวดังกล่าวด้วย AI

เขาตั้งข้อสังเกตว่าการอภิปรายอย่างต่อเนื่องและการตระหนักรู้ที่เพิ่มขึ้นเกี่ยวกับความจำเป็นในกฎระเบียบด้าน AI โดยเฉพาะอย่างยิ่งในด้านของ AI เชิงสร้างสรรค์ ถือเป็นสัญญาณเชิงบวกสำหรับเทคโนโลยีที่เข้าสู่ตลาดเมื่อหกเดือนที่แล้ว

นอกจากนี้ van Huffelen ยังเน้นย้ำถึงความจำเป็นที่บริษัทเทคโนโลยีจะต้องดำเนินการอย่างมีความรับผิดชอบ ควบคู่ไปกับความจำเป็นในการตั้งกฎเกณฑ์ และการบังคับใช้เพื่อให้แน่ใจว่าองค์กรต่างๆ ปฏิบัติตามกฎระเบียบเหล่านี้ เธอกล่าวว่ายังคง "ยังไม่ผ่านการทดสอบ" ว่าแนวทางสองวิธีนี้สามารถบรรลุผลควบคู่กันได้หรือไม่

นอกจากนี้เธอยังเน้นย้ำถึงความสำคัญของการสร้างความไว้วางใจ เพื่อให้ผู้คนต้องการใช้เทคโนโลยีนี้ และรับประกันว่าผู้ใช้จะสามารถควบคุมสิ่งที่พวกเขาทำทางออนไลน์ได้ เช่นเดียวกับในโลกทางกายภาพ

ผู้ร่วมอภิปราย Keith Strier รองประธานฝ่ายริเริ่ม AI ทั่วโลกของ Nvidia กล่าวถึงความซับซ้อนของการกำกับดูแลเนื่องจากสามารถเข้าถึงเครื่องมือ AI ได้อย่างกว้างขวาง ความพร้อมใช้งานทั่วไปนี้หมายความว่ามีโอกาสมากขึ้นในการสร้างผลิตภัณฑ์ที่ไม่ปลอดภัย

Strier แนะนำว่ากฎระเบียบควรเป็นส่วนหนึ่งของการแก้ปัญหา แต่ไม่ใช่คำตอบเดียว เนื่องจากมาตรฐานอุตสาหกรรม บรรทัดฐานทางสังคม และการศึกษา มีความสำคัญไม่แพ้กันในการรับรองการนำ AI ไปใช้อย่างปลอดภัย