พิมพ์เขียวของ IBM สําหรับการเปลี่ยนแปลงอุตสาหกรรมใช้ประโยชน์จาก AI, 5G และการทํางานร่วมกันอย่างไร

หลังจากความเป็นส่วนตัวของข้อมูลและ GDPR สหภาพยุโรปต้องการทิ้งร่องรอยไว้กับ AI โดยควบคุมด้วยพระราชบัญญัติ AI ของสหภาพยุโรป นี่คือสิ่งที่มันมีความหมายต่อโลกโดยรวมเมื่อใดที่คาดว่าจะมีผลและสิ่งที่ผู้เชี่ยวชาญจากมูลนิธิ Mozilla พูดเกี่ยวกับเรื่องนี้

เป็นเวลาเกือบหนึ่งปีแล้วที่คณะกรรมาธิการยุโรปได้เปิดเผยร่างสําหรับสิ่งที่อาจเป็นหนึ่งในกรอบกฎหมายที่มีอิทธิพลมากที่สุดในโลก: พระราชบัญญัติ AI ของสหภาพยุโรป จากข้อมูลของ Mozilla Foundation เฟรมเวิร์กยังคงดําเนินการอยู่ และถึงเวลาแล้วที่จะมีส่วนร่วมอย่างแข็งขันในความพยายามในการกําหนดทิศทาง

ภารกิจที่ระบุไว้ของมูลนิธิ Mozilla คือการทํางานเพื่อให้แน่ใจว่าอินเทอร์เน็ตยังคงเป็นแหล่งข้อมูลสาธารณะที่เปิดกว้างและเข้าถึงได้สําหรับทุกคน ตั้งแต่ปี 2019 มูลนิธิ Mozilla ได้มุ่งเน้นส่วนสําคัญของโปรแกรมการสร้างขบวนการสุขภาพทางอินเทอร์เน็ตไปที่ AI

เราได้พบกับ Mark Surman ผู้อํานวยการบริหารของมูลนิธิ Mozilla และ Maximilian Gahntz นักวิจัยนโยบายอาวุโส เพื่อหารือเกี่ยวกับการมุ่งเน้นและจุดยืนของ Mozilla เกี่ยวกับ AI ข้อเท็จจริงสําคัญเกี่ยวกับพระราชบัญญัติ AI ของสหภาพยุโรปและวิธีการทํางานในทางปฏิบัติ ตลอดจนคําแนะนําของ Mozilla ในการปรับปรุง และวิธีที่ทุกคนมีส่วนร่วมในกระบวนการ

พระราชบัญญัติ AI ของสหภาพยุโรปกําลังจะมาถึง และเป็นเรื่องใหญ่แม้ว่าคุณจะไม่ได้อยู่ในสหภาพยุโรปก็ตาม

ในปี 2019 Mozilla ระบุว่า AI เป็นความท้าทายใหม่ต่อสุขภาพของอินเทอร์เน็ต เหตุผลก็คือ AI ตัดสินใจแทนเราและเกี่ยวกับเรา แต่ไม่ได้อยู่กับเราเสมอไป: มันสามารถบอกเราได้ว่าเราอ่านข่าวอะไร โฆษณาอะไรที่เราเห็น หรือเรามีสิทธิ์ได้รับเงินกู้หรือไม่

การตัดสินใจของ AI มีศักยภาพในการช่วยเหลือมนุษยชาติ แต่ยังเป็นอันตรายต่อเราด้วย Mozilla ตั้งข้อสังเกต AI สามารถขยายอคติและการเลือกปฏิบัติในอดีต ให้ความสําคัญกับการมีส่วนร่วมมากกว่าความเป็นอยู่ที่ดีของผู้ใช้ และเสริมพลังของ Big Tech และทําให้บุคคลชายขอบ

"AI ที่น่าเชื่อถือเป็นสิ่งสําคัญสําหรับเราในช่วงไม่กี่ปีที่ผ่านมา เนื่องจากข้อมูลและแมชชีนเลิร์นนิง และสิ่งที่เราเรียกว่า AI ในปัจจุบันเป็นโครงสร้างทางธุรกิจทางเทคนิคและสังคมที่สําคัญสําหรับอินเทอร์เน็ตคืออะไร และอินเทอร์เน็ตตัดกับสังคมและชีวิตของเราทุกคนอย่างไร" Surman กล่าว

ในขณะที่ AI แทรกซึมเข้าไปในชีวิตของเรามากขึ้นเรื่อยๆ Mozilla เห็นด้วยกับสหภาพยุโรปว่าการเปลี่ยนแปลงเป็นสิ่งจําเป็นในบรรทัดฐานและกฎเกณฑ์ที่ควบคุม AI Gahntz เขียนในปฏิกิริยา ของ Mozilla ต่อพระราชบัญญัติ AI ของสหภาพยุโรป

สิ่งแรกที่ควรทราบเกี่ยวกับพระราชบัญญัติ AI ของสหภาพยุโรปคือไม่ได้ใช้กับองค์กรหรือพลเมืองในสหภาพยุโรปเท่านั้น ระลอกคลื่นอาจรู้สึกได้ทั่วโลกในลักษณะเดียวกับ ผลกระทบที่ GDPR มี

พระราชบัญญัติ AI ของสหภาพยุโรปมีผลบังคับใช้กับผู้ใช้และผู้ให้บริการระบบ AI ที่ตั้งอยู่ในสหภาพยุโรป ซัพพลายเออร์ที่จัดตั้งขึ้นนอกสหภาพยุโรปซึ่งเป็นแหล่งที่มาของการวางตลาดหรือการว่าจ้างระบบ AI ภายในสหภาพยุโรป และผู้ให้บริการและผู้ใช้ระบบ AI ที่จัดตั้งขึ้นนอกสหภาพยุโรปเมื่อใช้ผลลัพธ์ที่สร้างโดยระบบในสหภาพยุโรป

นั่นหมายความว่าองค์กรที่พัฒนาและปรับใช้ระบบ AI จะต้องปฏิบัติตามพระราชบัญญัติ AI ของสหภาพยุโรปหรือถอนตัวออกจากสหภาพยุโรปโดยสิ้นเชิง ที่กล่าวว่ามีบางวิธีที่พระราชบัญญัติ AI ของสหภาพยุโรปแตกต่างจาก GDPR แต่จะเพิ่มเติมในภายหลัง

เช่นเดียวกับกฎระเบียบทั้งหมด พระราชบัญญัติ AI ของสหภาพยุโรปเดินเส้นแบ่งระหว่างการนําทางระหว่างความต้องการทางธุรกิจและการวิจัยกับความกังวลของ ประชาชน

ประเด็นสําคัญอีกประการหนึ่งเกี่ยวกับพระราชบัญญัติ AI ของสหภาพยุโรปคือยังอยู่ในระหว่างดําเนินการ และจะใช้เวลาสักครู่กว่าจะมีผลบังคับใช้ วงจรชีวิตเริ่มต้นด้วยการก่อตั้งกลุ่มผู้เชี่ยวชาญระดับสูง ซึ่งตามที่ Surman ตั้งข้อสังเกต ตรงกับการมุ่งเน้นของ Mozilla ใน AI ที่น่าเชื่อถือ Mozilla จับตาดูพระราชบัญญัติ AI ของสหภาพยุโรปอย่างใกล้ชิดตั้งแต่ปี 2019

ตามที่ Gahntz ตั้งข้อสังเกต นับตั้งแต่ร่างแรกของพระราชบัญญัติ AI ของสหภาพยุโรปได้รับการเผยแพร่ในเดือนเมษายน พ.ศ. 2021 ทุกคนที่เกี่ยวข้องในกระบวนการนี้ได้เตรียมพร้อมที่จะมีส่วนร่วม รัฐสภาสหภาพยุโรปต้องตัดสินใจว่าคณะกรรมการใดและคนใดในคณะกรรมการเหล่านั้นจะทํางานในเรื่องนี้ และองค์กรภาคประชาสังคมมีโอกาสอ่านข้อความและพัฒนาจุดยืนของตน

จุดที่เราอยู่ตอนนี้คือจุดเริ่มต้นของส่วนที่น่าตื่นเต้น นี่คือเวลาที่รัฐสภาสหภาพยุโรปกําลังพัฒนาจุดยืนโดยพิจารณาข้อมูลที่ได้รับจากคณะกรรมการที่ได้รับมอบหมายและบุคคลที่สาม เมื่อรัฐสภายุโรปได้รวมสิ่งที่พวกเขาเข้าใจภายใต้คําว่า AI ที่น่าเชื่อถือแล้ว พวกเขาจะส่งแนวคิดเกี่ยวกับวิธีเปลี่ยนร่างเริ่มต้น

ประเทศสมาชิกสหภาพยุโรปจะทําเช่นเดียวกัน จากนั้นจะมีการเจรจารอบสุดท้ายระหว่างรัฐสภา คณะกรรมาธิการ และประเทศสมาชิก และนั่นคือเวลาที่พระราชบัญญัติ AI ของสหภาพยุโรปจะผ่านเป็นกฎหมาย มันเป็นถนนที่ยาวไกลและคดเคี้ยว และจากข้อมูลของ Gahntz เรากําลังดูขอบเขตหนึ่งปีเป็นอย่างน้อย บวกกับช่วงเปลี่ยนผ่านระหว่างการผ่านกฎหมายและมีผลบังคับใช้จริง

สําหรับ GDPR ระยะเวลาเปลี่ยนผ่านคือสองปี ดังนั้นจึงอาจจะไม่เกิดขึ้นก่อนปี 2025 จนกว่าพระราชบัญญัติ AI ของสหภาพยุโรปจะมีผลบังคับใช้

การกําหนดและจัดหมวดหมู่ระบบ AI

ก่อนที่จะลงรายละเอียดเฉพาะของพระราชบัญญัติ AI ของสหภาพยุโรป เราควรหยุดและถามว่ามันใช้กับอะไรกันแน่ ไม่มีคําจํากัดความของ AI ที่ตกลงกันอย่างกว้างขวาง ดังนั้นพระราชบัญญัติ AI ของสหภาพยุโรปจึงมีภาคผนวกที่กําหนดเทคนิคและแนวทางที่อยู่ในขอบเขต

ตามที่ระบุไว้ โดย Montreal AI Ethics Institute คณะกรรมาธิการยุโรปได้เลือกคําจํากัดความที่กว้างและเป็นกลางของระบบ AI โดยกําหนดให้เป็นซอฟต์แวร์ "ที่พัฒนาด้วยเทคนิคและแนวทางอย่างน้อยหนึ่งอย่างที่ระบุไว้ในภาคผนวก I และสามารถสร้างผลลัพธ์ เช่น เนื้อหา การคาดการณ์ คําแนะนํา หรือการตัดสินใจที่มีอิทธิพลต่อสภาพแวดล้อมที่พวกเขาโต้ตอบด้วย"

เทคนิคที่กล่าวถึงในภาคผนวกของพระราชบัญญัติ AI ของสหภาพยุโรปมีทั้งแนวทางการเรียนรู้ของเครื่องและแนวทางตามตรรกะและความรู้ พวกเขามีความหลากหลายจนถึงจุดที่ ทําให้เกิดการวิพากษ์วิจารณ์ สําหรับ "เสนอให้ควบคุมการใช้การประมาณค่าเบย์เซียน" ในขณะที่การนําทางระหว่างความต้องการทางธุรกิจและการวิจัยและความกังวลของประชาชนเดินไปตามเส้นเล็ก ๆ การอ้างสิทธิ์ดังกล่าวดูเหมือนจะไม่เข้าใจสาระสําคัญของปรัชญาของกฎหมายที่เสนอ: สิ่งที่เรียกว่าแนวทางตามความเสี่ยง

ในพระราชบัญญัติ AI ของสหภาพยุโรป ระบบ AI แบ่งออกเป็น 4 ประเภทตามความเสี่ยงที่รับรู้: ระบบความเสี่ยงที่ยอมรับไม่ได้จะถูกห้ามทั้งหมด (แม้ว่าจะมีข้อยกเว้นบางประการ) ระบบที่มีความเสี่ยงสูงอยู่ภายใต้กฎของการตรวจสอบย้อนกลับ ความโปร่งใส และความทนทาน ระบบที่มีความเสี่ยงต่ําต้องการความโปร่งใสในส่วนของซัพพลายเออร์ และระบบความเสี่ยงขั้นต่ําที่ไม่มีการกําหนดข้อกําหนด

ดังนั้นจึงไม่ใช่เรื่องของการควบคุมเทคนิคบางอย่าง แต่เป็นการควบคุมการประยุกต์ใช้เทคนิคเหล่านั้นในการใช้งานบางอย่างตามความเสี่ยงที่แอปพลิเคชันก่อให้เกิด เท่าที่เทคนิคดําเนินไปกรอบงานที่เสนอตั้งข้อสังเกตว่าการปรับตัวล่วงเวลาอาจจําเป็นเพื่อให้ทันกับวิวัฒนาการของโดเมน

ไม่รวมจากขอบเขตของพระราชบัญญัติ AI ของสหภาพยุโรปคือระบบ AI ที่พัฒนาหรือใช้เพื่อวัตถุประสงค์ทางทหารโดยเฉพาะ หน่วยงานของรัฐของประเทศที่สามและองค์กรระหว่างประเทศที่ใช้ระบบ AI ในกรอบของการบังคับใช้กฎหมายระหว่างประเทศและข้อตกลงความร่วมมือด้านตุลาการกับสหภาพยุโรปหรือกับสมาชิกอย่างน้อยหนึ่งประเทศก็ได้รับการยกเว้นจากพระราชบัญญัติ AI ของสหภาพยุโรปเช่นกัน

ในพระราชบัญญัติ AI ของสหภาพยุโรป ระบบ AI แบ่งออกเป็น 4 ประเภทตามความเสี่ยงที่รับรู้ได้

แอปพลิเคชัน AI ที่ควบคุมพฤติกรรมของมนุษย์เพื่อกีดกันเจตจํานงเสรีของผู้ใช้และระบบที่อนุญาตให้ให้คะแนนทางสังคมโดยประเทศสมาชิกสหภาพยุโรปจัดอยู่ในประเภทความเสี่ยงที่ยอมรับไม่ได้และถูกแบนโดยสิ้นเชิง

ระบบ AI ที่มีความเสี่ยงสูง ได้แก่ การระบุไบโอเมตริกซ์ การจัดการโครงสร้างพื้นฐานที่สําคัญ (น้ํา พลังงาน ฯลฯ) ระบบ AI ที่มีไว้สําหรับการมอบหมายในสถาบันการศึกษาหรือสําหรับการจัดการทรัพยากรมนุษย์ และแอปพลิเคชัน AI สําหรับการเข้าถึงบริการที่จําเป็น (เครดิตธนาคาร บริการสาธารณะ สวัสดิการสังคม ความยุติธรรม ฯลฯ) ใช้สําหรับภารกิจของตํารวจ ตลอดจนการจัดการการย้ายถิ่นฐานและการควบคุมชายแดน

อย่างไรก็ตาม การประยุกต์ใช้ การระบุตัวตนด้วย ไบโอเมตริกซ์มีข้อยกเว้นหลายประการ เช่น การค้นหาเด็กที่หายไปหรือตําแหน่งของผู้ต้องสงสัยในกรณีการก่อการร้าย การค้ามนุษย์ หรือสื่อลามกอนาจารเด็ก พระราชบัญญัติ AI ของสหภาพยุโรปกําหนดว่าควรบันทึกระบบ AI ที่มีความเสี่ยงสูงในฐานข้อมูลที่ดูแลโดยคณะกรรมาธิการยุโรป

ระบบความเสี่ยงที่จํากัดส่วนใหญ่รวมถึงบอทต่างๆ สําหรับสิ่งเหล่านี้ข้อกําหนดที่สําคัญคือความโปร่งใส ตัวอย่างเช่น หากผู้ใช้กําลังโต้ตอบกับแชทบอท พวกเขาจะต้องได้รับแจ้งข้อเท็จจริงนี้ เพื่อให้พวกเขาสามารถตัดสินใจได้อย่างชาญฉลาดว่าจะดําเนินการต่อหรือไม่

สุดท้าย ตามที่คณะกรรมาธิการระบุว่า ระบบ AI ที่ไม่ก่อให้เกิดความเสี่ยงต่อสิทธิของพลเมือง เช่น ตัวกรองสแปมหรือเกม จะได้รับการยกเว้นจากภาระผูกพันด้านกฎระเบียบ

พระราชบัญญัติ AI ของสหภาพยุโรปเพื่อเข้าถึง AI ที่น่าเชื่อถือ

แนวคิดหลักที่อยู่เบื้องหลังแนวทางตามความเสี่ยงในกฎระเบียบ AI นั้นค่อนข้างชวนให้นึกถึง แนวทางที่ใช้กับการติดฉลากอุปกรณ์ไฟฟ้าในครัวเรือนตามประสิทธิภาพการใช้พลังงานในสหภาพยุโรป อุปกรณ์ถูกจัดหมวดหมู่ตามลักษณะประสิทธิภาพการใช้พลังงานและใช้ฉลากตั้งแต่ A (ดีที่สุด) ถึง G (แย่ที่สุด)

แต่ก็มีความแตกต่างที่สําคัญบางประการเช่นกัน ที่โดดเด่นที่สุดคือในขณะที่ฉลากพลังงานมีไว้ให้ผู้บริโภคเห็นและคํานึงถึงการประเมินความเสี่ยงของระบบ AI ไม่ได้ได้รับการออกแบบโดยคํานึงถึงเป้าหมายเดียวกัน อย่างไรก็ตาม หาก Mozilla มีวิธี สิ่งนั้นอาจเปลี่ยนแปลงได้เมื่อพระราชบัญญัติ AI ของสหภาพยุโรปมีผลบังคับใช้

การเปรียบเทียบเป็นเรื่องที่น่าสนใจเสมอ แต่สิ่งที่สําคัญจริงๆ คือแนวทางตามความเสี่ยงคือการพยายามลดผลกระทบของกฎระเบียบต่อผู้ที่พัฒนาและปรับใช้ระบบ AI ที่ไม่ค่อยมีข้อกังวลเลย Gahntz กล่าว

"แนวคิดคือการมุ่งความสนใจไปที่ส่วนที่ยุ่งยาก ซึ่งความเสี่ยงถูกนํามาใช้กับความปลอดภัย สิทธิ และความเป็นส่วนตัวของผู้คน เป็นต้น นั่นเป็นส่วนที่เราต้องการให้ความสําคัญเพราะกฎระเบียบไม่ใช่จุดจบในตัวมันเอง

เราต้องการบรรลุผลด้วยคําแนะนําและการสนับสนุนของเราเกี่ยวกับเรื่องนี้ ส่วนของกฎระเบียบที่มุ่งเน้นไปที่การบรรเทาหรือป้องกันความเสี่ยงจากการเกิดขึ้นจริงนั้นแข็งแกร่งขึ้นในพระราชบัญญัติ AI ของสหภาพยุโรปขั้นสุดท้าย

มีการเปรียบเทียบมากมายที่จะดึงไปสู่แนวทางตามความเสี่ยงอื่น ๆ ที่เราเห็นในกฎหมายและข้อบังคับของยุโรปที่อื่น แต่สิ่งสําคัญคือต้องดูความเสี่ยงที่เฉพาะเจาะจงสําหรับแต่ละกรณีการใช้งาน โดยพื้นฐานแล้วหมายถึงการตอบคําถามว่าเราจะแน่ใจได้อย่างไรว่า AI นั้นน่าเชื่อถือ" Gahntz กล่าว

Gahntz และ Surman เน้นย้ําว่าคําแนะนําของ Mozilla ได้รับการพัฒนาด้วยความระมัดระวังและความขยันเนื่องจากต้องเข้าสู่กระบวนการนี้เพื่อให้แน่ใจว่าไม่มีใครได้รับอันตรายและ AI จะกลายเป็นผลประโยชน์สุทธิสําหรับทุกคน

เราจะดําเนินการต่อด้วยรายละเอียดเกี่ยวกับคําแนะนําของ Mozilla ในการปรับปรุงพระราชบัญญัติ AI ของสหภาพยุโรป ตลอดจนปรัชญา พื้นฐานของ AI ที่น่าเชื่อถือและทฤษฎี การเปลี่ยนแปลงของ AI และวิธีมีส่วนร่วมในการสนทนาในส่วนที่ 2 ของบทความนี้