พิมพ์เขียวของ IBM สําหรับการเปลี่ยนแปลงอุตสาหกรรมใช้ประโยชน์จาก AI, 5G และการทํางานร่วมกันอย่างไร
พระราชบัญญัติ AI ของสหภาพยุโรปอาจกลายเป็นหนึ่งในกรอบกฎหมายที่มีอิทธิพลมากที่สุดในโลก นี่คือวิธีการและเหตุผลที่มูลนิธิ Mozilla มีส่วนร่วมกับมัน และวิธีที่คุณสามารถมีส่วนร่วมได้เช่นกัน
หนึ่งปีหลังจากมีการแนะนําร่างแรกรายละเอียดเกี่ยวกับพระราชบัญญัติ AI ของสหภาพยุโรปยังคงมีน้อยและห่างไกล แม้ว่ากรอบการกํากับดูแลนี้ยังไม่ได้รับการสรุป หรือมากกว่านั้นเพราะเหตุผลนั้น แต่ถึงเวลาแล้วที่จะเรียนรู้เพิ่มเติมเกี่ยวกับเรื่องนี้
ก่อนหน้านี้เราได้กล่าวถึงข้อเท็จจริงสําคัญบางประการเกี่ยวกับพระราชบัญญัติ AI ของสหภาพยุโรป: ใช้กับใคร จะประกาศใช้เมื่อใด และเกี่ยวกับอะไร เราเริ่มสํารวจนี้ร่วมกับ Mark Surman ผู้อํานวยการบริหารของ Mozilla Foundation และ Maximilian Gahntz นักวิจัยนโยบายอาวุโส
ตามที่ Surman แบ่งปัน การมุ่งเน้นไปที่ AI ของ Mozilla เกิดขึ้นในช่วงเวลาเดียวกับที่พระราชบัญญัติ AI ของสหภาพยุโรปเริ่มวงจรชีวิตเช่นกัน Mozilla ได้ทํางานร่วมกับผู้คนทั่วโลกเพื่อกําหนดทฤษฎีเกี่ยวกับวิธีทําให้ AI น่าเชื่อถือมากขึ้น โดยมุ่งเน้นไปที่ผลลัพธ์ระยะยาวสองประการ: หน่วยงานและความรับผิดชอบ
วันนี้เรามาพูดคุยกับ Surman และ Gahntz เราหารือเกี่ยวกับคําแนะนําของ Mozilla ในการปรับปรุงพระราชบัญญัติ AI ของสหภาพยุโรปและวิธีที่ผู้คนสามารถมีส่วนร่วม และทฤษฎีการเปลี่ยนแปลง AI ของ Mozilla
พระราชบัญญัติ AI ของสหภาพยุโรปกําลังดําเนินการอยู่
พระราชบัญญัติ AI ของสหภาพยุโรปกําลังจะมาถึง เนื่องจากคาดว่าจะมีผลบังคับใช้ประมาณปี 2025 และผลกระทบต่อ AI อาจคล้ายกับผลกระทบของ GDPR ที่มีต่อความเป็นส่วนตัวของข้อมูล
พระราชบัญญัติ AI ของสหภาพยุโรปมีผลบังคับใช้กับผู้ใช้และผู้ให้บริการระบบ AI ที่ตั้งอยู่ในสหภาพยุโรป ซัพพลายเออร์ที่จัดตั้งขึ้นนอกสหภาพยุโรปซึ่งเป็นแหล่งที่มาของการวางตลาดหรือการว่าจ้างระบบ AI ภายในสหภาพยุโรป และผู้ให้บริการและผู้ใช้ระบบ AI ที่จัดตั้งขึ้นนอกสหภาพยุโรปเมื่อใช้ผลลัพธ์ที่สร้างโดยระบบในสหภาพยุโรป
แนวทางของมันขึ้นอยู่กับการจัดหมวดหมู่ระบบ AI 4 ระดับตามความเสี่ยงที่รับรู้ได้: ระบบความเสี่ยงที่ยอมรับไม่ได้จะถูกห้ามทั้งหมด (แม้ว่าจะมีข้อยกเว้นบางประการ) ระบบที่มีความเสี่ยงสูงอยู่ภายใต้กฎของการตรวจสอบย้อนกลับความโปร่งใสและความทนทานระบบที่มีความเสี่ยงต่ําต้องการความโปร่งใสในส่วนของซัพพลายเออร์และระบบความเสี่ยงขั้นต่ําที่ไม่มีการกําหนดข้อกําหนด
ณ จุดนี้ รัฐสภาสหภาพยุโรปกําลังพัฒนาจุดยืนของตน โดยพิจารณาจากข้อมูลที่ได้รับจากคณะกรรมการที่ได้รับมอบหมายและบุคคลที่สาม เมื่อรัฐสภาสหภาพยุโรปได้รวมสิ่งที่พวกเขาเข้าใจภายใต้คําว่า AI ที่น่าเชื่อถือแล้ว พวกเขาจะส่งแนวคิดเกี่ยวกับวิธีเปลี่ยนร่างเริ่มต้น การเจรจารอบสุดท้ายระหว่างรัฐสภา คณะกรรมาธิการ และประเทศสมาชิกจะตามมา และนั่นคือเวลาที่พระราชบัญญัติ AI ของสหภาพยุโรปจะผ่านเป็นกฎหมาย
เพื่อมีอิทธิพลต่อทิศทางของพระราชบัญญัติ AI ของสหภาพยุโรป ตามที่ระบุไว้ในบทความ ปี 2020 ของ Mozilla การสร้าง AI ที่น่าเชื่อถือ AI มีศักยภาพมหาศาลในการปรับปรุงคุณภาพชีวิตของเรา แต่การรวม AI เข้ากับแพลตฟอร์มและผลิตภัณฑ์ที่เราใช้ทุกวันสามารถประนีประนอมความปลอดภัย ความปลอดภัย และความเป็นส่วนตัวของเราได้อย่างเท่าเทียมกัน [...] เว้นแต่จะมีการดําเนินการที่สําคัญเพื่อทําให้ระบบเหล่านี้น่าเชื่อถือมากขึ้น AI ก็เสี่ยงต่อการทําให้ความไม่เท่าเทียมกันที่มีอยู่ลึกซึ้งยิ่งขึ้น
Mozilla เชื่อว่าจําเป็นต้องมีกฎระเบียบที่มีประสิทธิภาพและมองไปข้างหน้าหากเราต้องการให้ AI น่าเชื่อถือมากขึ้น นี่คือเหตุผลที่ยินดีกับความทะเยอทะยานของคณะกรรมาธิการยุโรปในสมุดปกขาวว่าด้วยปัญญาประดิษฐ์ เมื่อสองปีที่แล้ว จุดยืนของ Mozilla คือพระราชบัญญัติ AI ของสหภาพยุโรปเป็นก้าวไปในทิศทางที่ถูกต้อง แต่ก็มีช่องว่างสําหรับการปรับปรุงเช่นกัน
การปรับปรุงที่แนะนําโดย Mozilla ได้ถูกวางไว้ในบล็อกโพสต์ พวกเขามุ่งเน้นไปที่สามประเด็น:
- การรับรองความรับผิดชอบ
- การสร้างความโปร่งใสในระบบ
- ให้บุคคลและชุมชนมีเสียงที่แข็งแกร่งขึ้น
จุดโฟกัส 3 ประการ
ความรับผิดชอบเป็นเรื่องเกี่ยวกับการหาว่าใครควรรับผิดชอบอะไรตลอดห่วงโซ่อุปทาน AI ตามที่ Gahntz อธิบายไว้ ความเสี่ยงควรได้รับการแก้ไขเมื่อเกิดขึ้น ไม่ว่าจะเป็นขั้นตอนการออกแบบทางเทคนิคหรือในขั้นตอนการปรับใช้
พระราชบัญญัติ AI ของสหภาพยุโรปจะกําหนดภาระผูกพันส่วนใหญ่ให้กับผู้ที่พัฒนาและทําการตลาดระบบ AI ที่มีความเสี่ยงสูงในรูปแบบปัจจุบัน แม้ว่าจะมีเหตุผลที่ดี แต่ Gahntz เชื่อว่าความเสี่ยงที่เกี่ยวข้องกับระบบ AI ยังขึ้นอยู่กับวัตถุประสงค์ที่แน่นอนและบริบทที่ใช้ ใครเป็นคนปรับใช้ระบบ และการตั้งค่าองค์กรของการปรับใช้ที่อาจได้รับผลกระทบจากการใช้ระบบ ทั้งหมดนี้เป็นคําถามที่เกี่ยวข้อง
เพื่อให้บริบทนี้พิจารณากรณีของโมเดลภาษาขนาดใหญ่เช่น GPT-3 สามารถใช้เพื่อสรุปเรื่องสั้น (ความเสี่ยงต่ํา) หรือเพื่อประเมินเรียงความของนักเรียน (ความเสี่ยงสูง) ผลที่ตามมาที่อาจเกิดขึ้นที่นี่แตกต่างกันอย่างมาก และผู้ปรับใช้ควรรับผิดชอบต่อวิธีการใช้ระบบ AI แต่หากไม่มีการแนะนําภาระผูกพันที่พวกเขาไม่สามารถปฏิบัติตามได้อย่างมีประสิทธิภาพ Mozilla โต้แย้ง
ความโปร่งใสอย่างเป็นระบบเป็นมากกว่าความโปร่งใสที่ต้องเผชิญกับผู้ใช้ แม้ว่าจะเป็นเรื่องดีสําหรับผู้ใช้ที่จะรู้ว่าพวกเขากําลังโต้ตอบกับระบบ AI เมื่อใด แต่สิ่งที่เราต้องการในระดับที่สูงขึ้นคือนักข่าว นักวิจัย และหน่วยงานกํากับดูแลเพื่อให้สามารถตรวจสอบระบบได้อย่างถี่ถ้วน และสิ่งเหล่านี้ส่งผลกระทบต่อผู้คนและชุมชนในพื้นที่อย่างไร Gahntz กล่าว
ร่างพระราชบัญญัติ AI ของสหภาพยุโรปมีกลไกที่มีประสิทธิภาพในการรับรองความโปร่งใสของระบบ: ฐานข้อมูลสาธารณะสําหรับระบบ AI ที่มีความเสี่ยงสูง ซึ่งสร้างและดูแลโดยคณะกรรมาธิการ ซึ่งนักพัฒนาลงทะเบียนและให้ข้อมูลเกี่ยวกับระบบเหล่านี้ก่อนที่จะนําไปใช้ได้
คําแนะนําของ Mozilla ที่นี่มีสามเท่า ประการแรก กลไกนี้ได้รับการขยายเพื่อนําไปใช้กับผู้ปรับใช้ระบบ AI ที่มีความเสี่ยงสูงทั้งหมด นอกจากนี้ยังรายงานข้อมูลเพิ่มเติม เช่น คําอธิบายการออกแบบระบบ AI ตรรกะทั่วไป และประสิทธิภาพ ประการที่สาม รวมถึงข้อมูลเกี่ยวกับเหตุการณ์ร้ายแรงและความผิดปกติ ซึ่งนักพัฒนาจะต้องรายงานต่อหน่วยงานกํากับดูแลระดับชาติภายใต้พระราชบัญญัติ AI อยู่แล้ว
การมีส่วนร่วมของ Mozilla กับพระราชบัญญัติ AI ของสหภาพยุโรปนั้นสอดคล้องกับทฤษฎีการเปลี่ยนแปลง AI ซึ่งรวมถึงการเปลี่ยนบรรทัดฐานของอุตสาหกรรมการสร้างเทคโนโลยีและผลิตภัณฑ์ใหม่ ๆ การสร้างความต้องการและการสร้างกฎระเบียบและสิ่งจูงใจ
การให้เสียงที่แข็งแกร่งขึ้นแก่บุคคลและชุมชนเป็นสิ่งที่ขาดหายไปจากร่างเดิมของพระราชบัญญัติ AI ของสหภาพยุโรป Gahntz กล่าว มีเพียงหน่วยงานกํากับดูแลของสหภาพยุโรปเท่านั้นที่ได้รับอนุญาตให้บริษัทต่างๆ รับผิดชอบต่อผลกระทบของผลิตภัณฑ์และบริการที่เปิดใช้งาน AI
อย่างไรก็ตาม Mozilla เชื่อว่าเป็นสิ่งสําคัญสําหรับบุคคลที่จะสามารถรับผิดชอบบริษัทต่างๆ ได้ นอกจากนี้ องค์กรอื่นๆ เช่น องค์กรคุ้มครองผู้บริโภคหรือสหภาพแรงงาน จําเป็นต้องมีความสามารถในการร้องเรียนในนามของบุคคลหรือผลประโยชน์สาธารณะ
ดังนั้น Mozilla จึงสนับสนุนข้อเสนอในการเพิ่มกลไกการร้องเรียนจากล่างขึ้นบนสําหรับบุคคลและกลุ่มบุคคลที่ได้รับผลกระทบเพื่อยื่นเรื่องร้องเรียนอย่างเป็นทางการกับหน่วยงานกํากับดูแลระดับชาติเป็นจุดติดต่อเดียวในแต่ละประเทศสมาชิกสหภาพยุโรป
Mozilla ยังตั้งข้อสังเกตว่ามีวิธีเพิ่มเติมอีกหลายวิธีที่สามารถเสริมสร้างพระราชบัญญัติ AI ได้ก่อนที่จะนํามาใช้ ตัวอย่างเช่น การพิสูจน์กลไกในอนาคตในการกําหนดสิ่งที่ถือเป็น AI ที่มีความเสี่ยงสูง และทําให้แน่ใจว่ามีการพิจารณามุมมองที่หลากหลายในการดําเนินงานตามข้อกําหนดที่ระบบ AI ที่มีความเสี่ยงสูงจะต้องปฏิบัติตาม
มีส่วนร่วมในทฤษฎีการเปลี่ยนแปลงของ AI
คุณอาจเห็นด้วยกับคําแนะนําของ Mozilla และต้องการให้การสนับสนุนจากคุณ คุณอาจต้องการเพิ่มหรือคุณอาจต้องการเสนอชุดคําแนะนําของคุณเอง อย่างไรก็ตาม ตามที่คนของ Mozilla ตั้งข้อสังเกต กระบวนการมีส่วนร่วมในนั้นเหมือนกับการเป็นผู้นําแคมเปญของคุณเอง -- ไม่มีสิ่งที่เรียกว่า "นี่คือแบบฟอร์มที่คุณต้องกรอก"
"วิธีการมีส่วนร่วมเป็นกระบวนการประชาธิปไตยตามปกติจริงๆ คุณมีเจ้าหน้าที่ที่มาจากการเลือกตั้งที่ดูคําถามเหล่านี้ คุณยังมีคนในบริการสาธารณะที่ถามคําถามเหล่านี้ และจากนั้นคุณก็มีอุตสาหกรรมในสาธารณะที่ถกเถียงกันเกี่ยวกับคําถามเหล่านี้
ฉันคิดว่ามีกลไกเฉพาะ แน่นอนว่าคนอย่างเราจะชั่งน้ําหนักด้วยคําแนะนําที่เฉพาะเจาะจง และด้วยการชั่งน้ําหนักกับเรา คุณช่วยขยายสิ่งเหล่านั้น
แต่ฉันคิดว่าการสนทนาแบบเปิดเพื่อประชาธิปไตย -- การอยู่ในที่สาธารณะ สร้างพันธมิตร และเชื่อมต่อกับผู้คนที่คุณเห็นด้วยกับความคิด ต่อสู้กับและเผยให้เห็นหัวข้อที่ยากลําบาก นั่นคือสิ่งที่จะสร้างความแตกต่าง และแน่นอนว่าเป็นจุดที่เรามุ่งเน้น" Surman กล่าว
ณ จุดนี้ สิ่งที่เกี่ยวกับจริงๆ คือการโน้มน้าวความคิดเห็นของสาธารณชนและความคิดเห็นของผู้คนในตําแหน่งที่จะตัดสินใจ ตามที่ Gahntz กล่าว เขากล่าวเสริมว่า นั่นหมายถึงสมาชิกรัฐสภา เจ้าหน้าที่ของรัฐสมาชิกสหภาพยุโรป และเจ้าหน้าที่ภายในคณะกรรมาธิการยุโรป
ในระดับรากหญ้ามากขึ้นสิ่งที่ผู้คนสามารถทําได้ก็เหมือนเดิม Gahntz ให้ความเห็น คุณสามารถเขียนถึง MEP ในพื้นที่ ของคุณ คุณสามารถใช้งานโซเชียลมีเดียและพยายามขยายเสียงที่คุณเห็นด้วย คุณสามารถลงนามในคําร้อง และอื่นๆ Mozilla มีประวัติอันยาวนานในการมีส่วนร่วมในการกําหนดนโยบายสาธารณะ
"คําถามเกี่ยวกับหน่วยงานและความรับผิดชอบเป็นจุดสนใจของเรา และเราคิดว่าพระราชบัญญัติ AI ของสหภาพยุโรปเป็นฉากหลังที่ดีจริงๆ ซึ่งพวกเขาสามารถส่งผลกระทบทั่วโลกเพื่อผลักดันสิ่งต่าง ๆ ไปในทิศทางที่ถูกต้องในหัวข้อเหล่านี้" Surman กล่าว
หน่วยงานและความรับผิดชอบเป็นผลลัพธ์ระยะยาวที่ต้องการในทฤษฎีการเปลี่ยนแปลง AI ของ Mozilla ซึ่งพัฒนาขึ้นในปี 2019 โดยใช้เวลา 12 เดือนในการพูดคุยกับผู้เชี่ยวชาญ การสํารวจนี้ขัดเกลาความคิดของ Mozilla เกี่ยวกับ AI ที่น่าเชื่อถือโดยเสริมสร้างความท้าทายหลายประการ รวมถึงการผูกขาดและการรวมศูนย์ การกํากับดูแลข้อมูลและความเป็นส่วนตัว อคติและการเลือกปฏิบัติ และความโปร่งใสและความรับผิดชอบ
ทฤษฎีการเปลี่ยนแปลง AI ของ Mozilla ระบุผลลัพธ์ระยะสั้นจํานวนหนึ่ง (1-3 ปี) โดยแบ่งออกเป็น 4 ผลลัพธ์ระยะกลาง (3-5 ปี): การเปลี่ยนแปลงบรรทัดฐานของอุตสาหกรรมการสร้างเทคโนโลยีและผลิตภัณฑ์ใหม่ ๆ การสร้างความต้องการและการสร้างกฎระเบียบและสิ่งจูงใจ ผลกระทบระยะยาวที่คาดการณ์ไว้จะเป็น "โลกของ AI [ที่] เทคโนโลยีสําหรับผู้บริโภคทําให้ชีวิตของมนุษย์สมบูรณ์ขึ้น"
"กฎระเบียบเป็นตัวขับเคลื่อน แต่หากไม่มีผู้คนสร้างเทคโนโลยีที่แตกต่างกันในรูปแบบที่แตกต่างออกไปและผู้คนต้องการใช้เทคโนโลยีนั้น กฎหมายก็เป็นกระดาษแผ่นเดียว" ตามที่ Surman กล่าวไว้
หากเราดูแบบอย่างของ GDPR บางครั้งเราก็มีบริษัทใหม่ที่น่าสนใจจริงๆ และผลิตภัณฑ์ซอฟต์แวร์ใหม่ๆ ที่คํานึงถึงความเป็นส่วนตัว และบางครั้งเราก็เพิ่งได้รับการแจ้งเตือนป๊อปอัปที่น่ารําคาญเกี่ยวกับการรวบรวมข้อมูลของคุณและคุกกี้ เป็นต้น
"การทําให้แน่ใจว่ากฎหมายเช่นนี้ขับเคลื่อนการเปลี่ยนแปลงที่แท้จริงและคุณค่าที่แท้จริงสําหรับผู้คนเป็นเรื่องยุ่งยาก ด้วยเหตุนี้ในตอนนี้ ควรให้ความสําคัญกับสิ่งที่อุตสาหกรรมและนักพัฒนาและผู้ปรับใช้สามารถทําได้เพื่อทําให้ AI น่าเชื่อถือมากขึ้น เราต้องแน่ใจว่ากฎระเบียบสะท้อนให้เห็นและจูงใจการกระทําประเภทนั้นจริงๆ ไม่ใช่แค่นั่งอยู่บนคลาวด์" Surman สรุป