Lenovo ทำงานอย่างไรในการขจัดอคติ AI ในขณะที่สร้างแล็ปท็อป

ความหลากหลายของผลิตภัณฑ์ได้รับการปรับโฉมใหม่: Ada Lopez จาก Lenovo เปิดเผยว่าทีมงานที่หลากหลายสามารถกำหนดอนาคตของเทคโนโลยีและการเข้าถึงสำหรับทุกคนได้อย่างไรในการสัมภาษณ์พิเศษนี้

Ada Lopez ผู้จัดการอาวุโส สำนักงานความหลากหลายของผลิตภัณฑ์ Lenovo

ต่อไปนี้คือสิ่งที่คุณอาจรู้อยู่แล้วเกี่ยวกับ Lenovo: บริษัทยักษ์ใหญ่ด้านเทคโนโลยีข้ามชาติจัดส่งพีซีมากกว่าบริษัทอื่นๆ นอกจากนี้ การลงทุนทางธุรกิจที่หลากหลายของ Lenovo ยังครอบคลุมถึงแท็บเล็ต จอภาพ อุปกรณ์เสริม สมาร์ทโฟน โซลูชันบ้านอัจฉริยะและการทำงานร่วมกัน คอมพิวเตอร์ประสิทธิภาพสูง ความเป็นจริงเสริมและความเป็นจริงเสมือน อินเทอร์เน็ตในทุกสิ่งเชิงพาณิชย์ ซอฟต์แวร์ บริการ และโซลูชันศูนย์ข้อมูลโครงสร้างพื้นฐานอัจฉริยะ

แต่นี่คือสิ่งที่คุณอาจไม่รู้เกี่ยวกับ Lenovo: บริษัทยังลงทุนอย่างมากใน AI และได้ให้ความสำคัญกับความหลากหลายอีกประเภทหนึ่ง นั่นคือความหลากหลายของมนุษย์ ซึ่งมีความสำคัญสูงสุด ฉันมีโอกาสสัมภาษณ์ Ada Lopez ผู้จัดการอาวุโสของ Lenovo ประจำ Product Diversity Office ของบริษัท เธอแบ่งปันเวลาของเธอ และผลลัพธ์ที่ได้คือการสนทนาที่หลากหลายและน่าสนใจเกี่ยวกับความพยายามของบริษัทในการขจัดอคติด้าน AI และส่งเสริมการไม่แบ่งแยก

มาเจาะลึกกัน

ZDNET: โปรดแนะนำตัวเองและให้ความรู้เบื้องต้นเล็กน้อยว่าคุณมาบริหาร Product Diversity Office ของ Lenovo ได้อย่างไร

Ada Lopez: ฉันชื่อ Ada Lopez เป็นผู้จัดการอาวุโสของ Product Diversity Office ที่ Lenovo ฉันมีประสบการณ์มากกว่า 18 ปีในฐานะครู และเป็นทั้งผู้จัดการผลิตภัณฑ์และโครงการ

ในฐานะเด็กที่เกิดในคิวบาและอพยพมาอยู่ที่สหรัฐอเมริกาเมื่ออายุ 5 ขวบ ฉันต้องเผชิญกับและแก้ไขปัญหาการกีดกันทางวัฒนธรรม ภาษา และการกีดกันทางครอบครัว ปัญหาที่เกี่ยวข้องกับความหลากหลายและการไม่แบ่งแยกมีความสำคัญต่อการอยู่รอดของฉัน และฉันหมายความอย่างนั้นจริงๆ ตราบเท่าที่ฉันจำได้ ในบทบาทของฉันที่ Lenovo ตอนนี้ฉันสามารถใช้ความพยายามในการขจัดอุปสรรคทางเทคโนโลยีหรืออคติที่อาจกีดกันลูกค้าของเรา

ฉันต้องการให้แน่ใจว่าผลิตภัณฑ์ของ Lenovo สามารถเข้าถึงได้โดยผู้ใช้ทุกระดับความสามารถและกลุ่มประชากรด้อยโอกาสอื่นๆ เช่นเดียวกับคนอื่นๆ เนื่องจากเราบุกเบิกสิ่งใหม่ๆ อยู่เสมอ งานของฉันจึงน่าตื่นเต้นมาก เรากำลังดำเนินการในพื้นที่ที่ถูกละเลยมายาวนานซึ่งไม่มีคำตอบที่แน่นอน นอกจากนี้ยังหมายความว่าฉันต้องก่อกวนเล็กน้อยเนื่องจากในระดับบริษัท ฉันขอให้ผู้เชี่ยวชาญด้านเทคโนโลยีขยายมุมมองเกี่ยวกับสิ่งที่ถือเป็นผลิตภัณฑ์ที่ประสบความสำเร็จ

ZDNET: คุณช่วยพูดคุยเกี่ยวกับผลกระทบทางสังคมในระยะยาวของอคติ AI ที่ไม่ได้รับการตรวจสอบได้ไหม

AL: AI กำลังเปลี่ยนแปลงภูมิทัศน์ทางธุรกิจ และ Lenovo ตระหนักถึงความสำคัญที่ AI จะถูกนำไปใช้อย่างปลอดภัยและมีความรับผิดชอบ เพื่อตอบสนองความต้องการนี้ Lenovo ได้จัดตั้งคณะกรรมการ AI ที่มีความรับผิดชอบซึ่งประกอบด้วยกลุ่มพนักงาน 20 คนที่เป็นตัวแทนของภูมิหลังที่หลากหลายทั้งในเรื่องเพศ ชาติพันธุ์ และความพิการ

พวกเขาร่วมกันตรวจสอบผลิตภัณฑ์ภายในและความร่วมมือภายนอกเกี่ยวกับหลักการของความหลากหลายและการไม่แบ่งแยก ความเป็นส่วนตัวและความปลอดภัย ความรับผิดชอบและความน่าเชื่อถือ การอธิบายได้ ความโปร่งใส และผลกระทบด้านสิ่งแวดล้อมและสังคม

ZDNET: ความเข้าใจผิดทั่วไปเกี่ยวกับอคติของ AI ในอุตสาหกรรมเทคโนโลยีมีอะไรบ้าง

อัล: มีความเข้าใจผิดว่าเราไม่สามารถทำอะไรเพื่อหยุดอคติจากการแทรกซึมของระบบ AI ได้

เราสามารถเริ่มลดความเสี่ยงด้านอคติของ AI ได้ตั้งแต่วันนี้ โดยทำให้แน่ใจว่าเรามีความสามารถที่มีภูมิหลังหรือประสบการณ์ชีวิตที่หลากหลาย การสร้างโปรโตคอลภายในที่ส่งเสริมการรวมมุมมองที่หลากหลายของโปรแกรมเมอร์หรือนักออกแบบเป็นขั้นตอนแรกในการจัดการกับอคติจำนวนมากภายในชุดข้อมูลที่ AI ใช้ประโยชน์เพื่อสร้างผลลัพธ์

นี่คือสิ่งที่ธุรกิจสามารถเริ่มต้นได้ตั้งแต่วันนี้!

ZDNET: คุณช่วยยกตัวอย่างอคติของ AI ในระบบอัตโนมัติและผลกระทบต่อสังคมได้ไหม

AL: เนื่องจากข้อมูลสำหรับโปรแกรม AI ถูกดึงมาจากแหล่งอินเทอร์เน็ตที่มีอยู่แล้ว จึงเป็นไปได้ที่ระบบเหล่านี้ไม่สามารถกรองความคิดเห็นและมุมมองที่มีอคติออกไปได้ ท้ายที่สุดแล้ว สิ่งนี้สามารถนำไปสู่อนาคตที่ไม่สมดุล ซึ่ง AI อาจไม่มีวันบรรลุศักยภาพสูงสุดในการเป็นเครื่องมือเพื่อสิ่งที่ดีกว่า

ตัวอย่างทั่วไปที่เรากำลังประสบคืออคติทางเพศ เนื่องจากข้อมูลออนไลน์ส่วนใหญ่บิดเบือนไปที่ผู้ชาย การวิจัยที่จัดทำโดยมหาวิทยาลัยบอสตันร่วมกับ Microsoft พบว่าระบบที่ได้รับการฝึกอบรมกับ Google News จะเชื่อมโยงผู้ชายเข้ากับตำแหน่งต่างๆ เช่น "กัปตัน" และ "นักการเงิน" ในทางตรงกันข้าม ผู้หญิงมีความเกี่ยวข้องกับ "พนักงานต้อนรับ" และ "แม่บ้าน"

ระบบ AI จำนวนมากที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่มีอคติ ซึ่งมักสร้างขึ้นโดยทีมชายส่วนใหญ่ ได้สร้างปัญหาสำคัญสำหรับผู้หญิง อคติเหล่านี้สะท้อนให้เห็นจากบริษัทบัตรเครดิตที่นำเสนอทางเลือกและเครื่องมือที่ดีกว่าแก่ผู้ชายในการคัดกรองโรคโควิดและโรคตับ ซึ่งเป็นประเด็นที่การตัดสินใจผิดพลาดอาจส่งผลเสียต่อสุขภาพทางการเงินหรือสุขภาพกายของผู้คน

นอกจากนี้เรายังเห็นการเลือกปฏิบัติทางเชื้อชาติในระบบการดูแลสุขภาพของสหรัฐอเมริกาที่ใช้ AI ตาม Prolific ระบบ AI ได้รับการออกแบบมาเพื่อคาดการณ์ว่าผู้ป่วยรายใดต้องการการรักษาพยาบาลเพิ่มเติม โดยวิเคราะห์ประวัติค่ารักษาพยาบาลของพวกเขา

ระบบจะถือว่าค่าใช้จ่ายบ่งชี้ความต้องการด้านการรักษาพยาบาลของบุคคล แต่ไม่ได้คำนึงถึงรูปแบบการชำระเงินที่แตกต่างกันระหว่างผู้ป่วยผิวสีและผู้ป่วยผิวสี เนื่องจากความแตกต่างนี้ ผู้ป่วยผิวดำจึงได้รับคะแนนความเสี่ยงที่ต่ำกว่า ซึ่งถือว่ามีค่าใช้จ่ายพอๆ กันกับคนผิวขาวที่มีสุขภาพดีกว่า และไม่มีคุณสมบัติที่จะได้รับการดูแลเป็นพิเศษเช่นเดียวกับผู้ป่วยผิวขาวที่มีปัญหาเดียวกัน

ZDNET: คุณช่วยอธิบายความท้าทายที่ Lenovo เผชิญเกี่ยวกับอคติด้าน AI และวิธีแก้ไขได้ไหม

อัล: ครั้งหนึ่งเราเคยเปิดเผยอวตารที่ขับเคลื่อนด้วย AI ที่สมจริงเกินจริงในระหว่างกิจกรรมของพนักงานเพื่อสาธิตเทคโนโลยี AI กำเนิดอันทรงพลัง

เราไม่ได้คาดหวังผลตอบรับเชิงลบที่ได้รับจากพนักงาน แต่มันให้โอกาสในการเรียนรู้ซึ่งจะส่งผลต่อการสร้างอวาตาร์ในอนาคต การสำรวจพนักงานอย่างละเอียดทำให้เรามีข้อมูลเชิงลึกเกี่ยวกับการรับรู้ของผู้ใช้ เพื่อช่วยเราจัดการกับข้อกังวลเกี่ยวกับอคติโดยไม่ได้ตั้งใจในการทำซ้ำในอนาคต

เราต้องใช้ความเข้มงวดอย่างแท้จริงกับโซลูชันของเราเองตลอดจนงานของพันธมิตรของเรา โดยที่ความหลากหลาย ความเสมอภาค และการไม่แบ่งแยกต้องได้รับการพิสูจน์แล้วว่ามีความสำคัญเป็นลำดับแรก เราใช้เครื่องมือเฉพาะเพื่อประเมินอคติในข้อมูลและระบุประชากรย่อยที่อาจถูกนำเสนอน้อยเกินไปหรือถูกแบ่งส่วน

นอกจากนี้เรายังใช้ซอฟต์แวร์โอเพ่นซอร์สที่เรียกว่า AI Fairness 360 เพื่อประเมินอัลกอริธึมและข้อมูลการฝึกอบรมต่างๆ และลดอคติ ข้อมูลนี้เจาะลึกกว่าคลาสที่ได้รับการคุ้มครองเช่นกัน เช่น การตรวจสอบอคติต่อกลุ่มเศรษฐกิจและสังคมที่เลือกเทียบกับตัวแปร เช่น ระดับรายได้หรือคะแนนเครดิต

ZDNET: Product Diversity Office ของ Lenovo ทำงานอย่างไรเพื่อระบุและแก้ไขอคติที่อาจเกิดขึ้นใน AI

อัล: แม้ว่าอคติของ AI จะกำจัดไม่ได้โดยสิ้นเชิง แต่เรามุ่งมั่นที่จะจัดการและบรรเทามันให้มากที่สุดเท่าที่จะเป็นไปได้โดยการรวมภูมิหลังที่หลากหลายของผู้คนไว้ในชุดข้อมูลการฝึกอบรม

ที่ Lenovo เราได้จัดตั้งคณะกรรมการ AI ที่รับผิดชอบโดยนำคน 20 คนจากภูมิหลังที่หลากหลายมารวมกันเพื่อตัดสินใจหลักการที่ AI ต้องสนับสนุนในองค์กร

ZDNET: ความหลากหลายของทีมพัฒนามีอิทธิพลต่อการบรรเทาอคติของ AI อย่างไร

อัล: การส่งเสริมและสนับสนุนความหลากหลายภายในสถานที่ทำงานเป็นสิ่งสำคัญ และจะช่วยให้มั่นใจได้ว่าเราจะนำผู้มีความสามารถที่มีภูมิหลังหรือประสบการณ์ชีวิตที่หลากหลายเข้ามา ดังที่ฉันได้กล่าวไว้ข้างต้น การสร้างโปรโตคอลภายในที่ส่งเสริมการรวมมุมมองที่หลากหลายของโปรแกรมเมอร์หรือนักออกแบบช่วยลดความเสี่ยงของการรวมอคติจำนวนมากไว้ภายในชุดข้อมูลที่ AI ใช้ประโยชน์เพื่อสร้างผลลัพธ์

ผู้นำธุรกิจมีบทบาทสำคัญในการควบคุมรูปลักษณ์ของ AI และสามารถปลดล็อกได้ มีความจำเป็นที่องค์กรต่างๆ จะวางแผนอย่างละเอียดถี่ถ้วนว่าการใช้งาน AI อย่างมีความรับผิดชอบหมายถึงอะไร และยังคงมุ่งมั่นที่จะสนับสนุนอุดมคตินั้น การมีส่วนร่วมกับผู้มีส่วนได้ส่วนเสียเพื่อระบุปัญหาที่อาจเกิดขึ้นและกำหนดแนวปฏิบัติที่ดีที่สุดจะต้องได้รับความสนใจอย่างต่อเนื่องจากผู้นำและทีมงานที่เกี่ยวข้อง แต่การทำเช่นนั้นถือเป็นสิ่งสำคัญ

ZDNET: แหล่งข้อมูลมีบทบาทอย่างไรในการคงไว้ซึ่งอคติของ AI และจะจัดการเรื่องนี้ได้อย่างไร

AL:รายงาน Data for Humanity ของ Lenovo พบว่า 88% ของผู้นำธุรกิจกล่าวว่าเทคโนโลยี AI จะเป็นปัจจัยสำคัญในการช่วยให้องค์กรปลดล็อกคุณค่าของข้อมูลในอีก 5 ปีข้างหน้า ดังนั้น เมื่อบริษัทเหล่านี้รวบรวม ประมวลผล หรือใช้ข้อมูล ก็มีความเสี่ยงที่การค้นพบใดๆ อาจถูกกำหนดรูปแบบตามอคติ

ZDNET: อคติของ AI ส่งผลต่อการตัดสินใจในภาคส่วนต่างๆ เช่น การดูแลสุขภาพหรือการเงินได้อย่างไร

อัล: มีตัวอย่างมากมายของอคติในการดูแลสุขภาพที่มีหรือไม่มี AI เมื่อใช้ AI ความท้าทายส่วนหนึ่งคืออัลกอริธึมอาจจดจำรูปแบบในข้อมูลและสรุปผลที่ไม่ถูกต้อง แม้ว่าชุดข้อมูลนั้นจะสนับสนุนข้อสรุป แต่อาจมีตัวแปรสำคัญที่ขาดหายไป หรือตามปกติแล้ว รูปแบบดังกล่าวอาจเป็นผลมาจากการวินิจฉัยผิดพลาดในอดีตหรือการละเลยภายในกลุ่มใดกลุ่มหนึ่ง

ข้อมูลการตรวจตราเป็นตัวอย่างทั่วไปของข้อมูลที่ส่งเสริมอคติ หากชุมชนบางแห่งถูกตำรวจจับมากขึ้น การจับกุมก็จะสูงขึ้น สำหรับ AI การจับกุมเท่ากับอาชญากรรม ดังนั้นข้อสรุปอาจเป็นได้ว่าอาชญากรรมมีมากกว่า ข้อมูลประดิษฐานอคติและรูปแบบ บริบทคือทุกสิ่งที่นี่

ZDNET: มีความก้าวหน้าอะไรบ้างในเทคโนโลยี AI เพื่อตรวจจับและแก้ไขอคติ

อัล:ความสามารถในการอธิบายกำลังก้าวหน้าอย่างรวดเร็ว ดังนั้นเราจึงมีความเข้าใจที่ดีขึ้นว่า AI สร้างบางสิ่งได้อย่างไร อัลกอริธึมการถดถอยเชิงเส้นสามารถอธิบายได้อย่างมาก แต่กระบวนการโครงข่ายประสาทเทียมมักจะมีองค์ประกอบที่ซ่อนอยู่เสมอ ยังมีวิธีใหม่ๆ ในการทำให้เข้าใจง่ายขึ้นและอธิบาย AI ได้ดียิ่งขึ้น และเป็นสิ่งสำคัญสำหรับบริษัทอย่าง Lenovo ที่จะใช้ประโยชน์จากความก้าวหน้าเหล่านั้น

นอกจากนี้เรายังเห็นความโปร่งใสมากขึ้นในข้อมูลต้นฉบับและแบบจำลองที่ใช้ใน AI ดังนั้นเราจึงสามารถระบุและแก้ไขช่องว่างและข้อบกพร่องได้ดียิ่งขึ้น หากไม่มีความโปร่งใส ก็จะเป็นไปไม่ได้ที่จะซักถามและปรับปรุงข้อมูลการฝึกอบรมและอัลกอริธึม

ZDNET: ความคิดเห็นของผู้บริโภคสามารถใช้เพื่อระบุและแก้ไขอคติของ AI ในทางใดได้บ้าง

AL:ในกรณีส่วนใหญ่ ความคิดเห็นของลูกค้าควรเป็นทางเลือกสุดท้าย ในระหว่างการพัฒนา ทีมจำเป็นต้องปรึกษาหารือและเป็นตัวแทนของกลุ่มต่างๆ อย่างจงใจเพื่อลดอคติ ซึ่งสิ่งนี้จะต้องเกิดขึ้นที่รากฐานของ AI ใดๆ

อย่างไรก็ตาม ความคิดเห็นของลูกค้าอาจมีคุณค่าสำหรับประชากรกลุ่มย่อยที่มีขนาดเล็กลง หรือเมื่อกล่าวถึงจุดตัดของหลายมิติ เช่น เรื่องเพศ เชื้อชาติ หรืออัตลักษณ์ทางเพศ

ZDNET: วิธีการแบบสหวิทยาการจะช่วยเพิ่มความเข้าใจและลดอคติของ AI ได้อย่างไร

AL:คณะกรรมการ AI ที่รับผิดชอบของ Lenovo ประกอบด้วยบุคคลที่มีภูมิหลังและสาขาความเชี่ยวชาญที่แตกต่างกันมาก รวมถึงความปลอดภัย การขาย ความเป็นส่วนตัว กฎหมาย และความหลากหลายและการไม่แบ่งแยก เราได้รับประโยชน์อย่างมากจากความคิดเห็นที่หลากหลายและการทบทวนเทคโนโลยีที่เข้มงวดมาก

และเราเสริมสิ่งนั้นด้วยการศึกษาและการวิจัยที่มีการทบทวนโดยผู้ทรงคุณวุฒิซึ่งดำเนินการโดยมีเป้าหมายและขอบเขตที่แตกต่างกัน AI ไม่ใช่เรื่องใหม่ แต่ขนาดและความเร็วในการปรับใช้ในปัจจุบันนั้นไม่เคยมีมาก่อน ดังนั้นเราจึงต้องใช้ความรอบคอบและระมัดระวังอย่างยิ่ง

ZDNET: คุณจะให้คำแนะนำอะไรแก่บริษัทเทคโนโลยีอื่นๆ ในการแก้ไขปัญหาอคติด้าน AI

อัล: ในฐานะมนุษย์ ไม่ว่าเราจะพยายามแค่ไหน เราก็มีอคติทั้งที่มีสติและหมดสติโดยธรรมชาติ ระดับต่างๆ ของการเขียนโปรแกรมมักจะมีอคติอยู่บ้าง แต่เรายังคงขยันหมั่นเพียรในการทำให้แน่ใจว่าผู้คนเข้าใจและรับรู้ถึงอคติของพวกเขา

นี่คือสาเหตุว่าทำไมจึงจำเป็นต้องสร้างทีมที่มีประสบการณ์ พื้นหลัง และมุมมองที่แตกต่างกัน

ZDNET: มีความคิดเห็นอื่นๆ ที่คุณต้องการแบ่งปันกับผู้ชม ZDNET ทั่วโลกหรือไม่

อัล:AI มีศักยภาพในการเปลี่ยนแปลงวิธีการทำงานของโลกของเราโดยสิ้นเชิง เช่นเดียวกับเทคโนโลยีใดๆ เราต้องเข้าใจถึงความสามารถและข้อเสียของการใช้งาน การปล่อยให้ AI อยู่ภายใต้การควบคุมดูแลเพียงเล็กน้อยอาจเป็นปัญหาได้ โดยเฉพาะอย่างยิ่งเมื่อเทคโนโลยีนี้มีความชาญฉลาดมากขึ้น

แต่เราจำเป็นต้องตั้งคำถามและท้าทายผลลัพธ์และตรวจสอบสิ่งเหล่านั้นที่ควบคุมอินพุต เราควรสำรวจ AI และใช้เป็นผู้ช่วย แต่ก็ยังไม่ถึงจุดที่เราจะพึ่งพาได้อย่างเต็มที่

ความคิดสุดท้าย

บรรณาธิการของ ZDNET และฉันต้องการแบ่งปันคำชื่นชมอย่างมากต่อ Ada ที่สละเวลาในการสัมภาษณ์เชิงลึกนี้ มีอาหารให้คิดมากมายที่นี่ ขอบคุณเอด้า!

คุณคิดอย่างไร? คำแนะนำของ Ada ให้แนวคิดเกี่ยวกับวิธีปรับปรุงปัญหาอคติและความหลากหลายในองค์กรของคุณหรือไม่ แจ้งให้เราทราบในความคิดเห็นด้านล่าง

คุณสามารถติดตามการอัปเดตโครงการในแต่ละวันของฉันได้บนโซเชียลมีเดีย อย่าลืมสมัครรับจดหมายข่าวอัปเดตรายสัปดาห์ของฉันบน Substack และติดตามฉันบน Twitter ที่ @DavidGewirtz บน Facebook ที่ Facebook.com/DavidGewirtz บน Instagram ที่ Instagram.com/DavidGewirtz และบน YouTube ที่ YouTube.com/DavidGewirtzTV