ข้อผิดพลาดในการจำแนกภาพ AI อาจทำลายชีวิตของคุณได้ นี่เป็นวิธีหนึ่งในการลดปัญหาเหล่านี้

อัลกอริธึมการจัดหมวดหมู่รูปภาพมักเกิดข้อผิดพลาดได้ง่าย แต่วิธีการใหม่ในการระบุข้อผิดพลาดภายในโค้ด AI ที่ไม่สามารถเข้าใจได้สามารถช่วยแก้ปัญหาได้

ลองนึกถึงความเร็วที่อินเทอร์เน็ตกลายเป็นช่องทางสำคัญสำหรับกิจกรรมของมนุษย์จำนวนมหาศาล ตั้งแต่การค้าไปจนถึงการสื่อสารและการทำงานร่วมกัน และคุณเริ่มมีแนวคิดบางอย่างเกี่ยวกับบทบาทในการเปลี่ยนแปลงของปัญญาประดิษฐ์ (AI) ที่จะเข้ามามีบทบาทในชีวิตของเราในช่วงหน้า ทศวรรษ.

เช่นเดียวกับอินเทอร์เน็ต AI และประเภทย่อยหลักๆ ได้แก่ การเรียนรู้ของเครื่อง การประมวลผลภาษาธรรมชาติ การจดจำใบหน้า และการเรียนรู้เชิงลึก ได้รับการทำนายว่าจะเปลี่ยนแปลงสังคมมนุษย์ด้วยการฝังตัวเองไว้ในแทบทุกแง่มุมของชีวิตประจำวัน

แม้กระทั่งทุกวันนี้ ระบบและบริการด้านไอทีจำนวนมากก็ยังนำเสนอวิธีแก้ปัญหาทางธุรกิจที่ใช้ AI อยู่แล้ว ความแพร่หลายนี้ก่อให้เกิดคำถามเชิงตรรกะว่าจะเกิดอะไรขึ้นหาก AI ล้มเหลว

ที่เกี่ยวข้องกับ 'ภาพหลอน' ของ AI ซึ่งเทคโนโลยีสร้างคำตอบสำหรับคำถามที่ไม่รู้นั้นเป็นเรื่องปกติอยู่แล้ว

นอกจากนี้เรายังได้เห็นอัลกอริทึมที่แสดงและขยายอคติทางเพศ เชื้อชาติ ชาติพันธุ์ และชนชั้นที่แพร่หลายในสังคมแล้ว

ปัญหาประเภทนี้เกิดขึ้นเนื่องจากข้อมูลส่วนใหญ่ที่ขับเคลื่อนโมเดล AI ถูกคัดลอกมาจากเนื้อหาบนอินเทอร์เน็ต ซึ่งส่วนใหญ่ถูกสร้างขึ้นโดยโครงสร้างอำนาจที่โดดเด่น

ดังนั้น เพื่อให้แน่ใจว่าอัลกอริธึม AI ทำงานอย่างเหมาะสมและไม่ทำให้เกิดพฤติกรรมที่น่าอับอาย โมเดลที่ขับเคลื่อนเทคโนโลยีเกิดใหม่ควรได้รับการ "ฝึกฝน" ด้วยชุดข้อมูล และในกรณีด้านล่างนี้ รูปภาพ ซึ่งทำหน้าที่เป็นเกณฑ์มาตรฐานที่เป็นกลาง

ยกระดับ AI อย่างถูกวิธี

ตัวอย่างเช่น ระบบเตือนภัยล่วงหน้าของรัฐแคลิฟอร์เนียมีอัลกอริธึมการจดจำภาพที่เชื่อมต่อกับกล้องกว่าพันตัวทั่วรัฐ แบบจำลองนี้ได้รับการฝึกฝนให้ระบุกลุ่มควันจากก้อนเมฆ

กราฟ Reeb ของ Gleich แปลเวกเตอร์ที่ฝังอยู่ซึ่งจำไม่ได้จากชุดข้อมูลของอัลกอริทึมเป็นจุดสี ซึ่งช่วยให้สามารถสังเกตข้อผิดพลาดในการจำแนกประเภทได้

ตั้งแต่เนื้องอกในปอดของคุณไปจนถึงรถที่หักเลี้ยวบนทางหลวง ซอฟต์แวร์การจดจำภาพที่ฝึกฝนมาเพื่อค้นหาตัวบ่งชี้สำคัญจากเสียงรบกวนกำลังถูกนำไปใช้ในสถานการณ์ที่มีความสำคัญต่อภารกิจและช่วยชีวิต

แม้ว่าผลกระทบเชิงบวกที่อาจเกิดขึ้นจากระบบประเภทนี้จะมีนัยสำคัญ แต่ความเสี่ยงจาก AI ที่ผิดพลาดก็เช่นกัน แล้วจะแน่ใจได้อย่างไรว่าระบบจดจำภาพ AI จะไม่ช่วยทำลายสังคมอย่างที่เรารู้ๆ กัน

การมี 'ชุดฝึกอบรม' รูปภาพที่ให้เกณฑ์มาตรฐานที่ดีเป็นสิ่งสำคัญ การฝึกอบรมนี้เกี่ยวข้องกับการตรวจสอบข้อมูลในแต่ละพิกเซล ตลอดจนวิธีการแท็กและจัดประเภทพิกเซลตามหมวดหมู่ จะดำเนินการด้วยความแม่นยำไร้ที่ติ

ด้วยวิธีนี้ เมื่ออัลกอริธึมพยายามค้นหาว่ารูปภาพใดจัดอยู่ในหมวดหมู่ใด ก็สามารถทำได้โดยการอ้างอิงข้อมูลของรูปภาพในชุดการฝึก

อย่างไรก็ตาม ไม่ว่าชุดการฝึกอบรมจะมีสถาปัตยกรรมที่ดีเพียงใด บางครั้งอัลกอริทึมก็จะเผชิญหน้ากับเนื้อหาที่ไม่คุ้นเคยและหยุดชะงักลง

ยิ่งไปกว่านั้น การพยายามค้นหาว่าทางตันนั้นเกิดขึ้นที่ใดในชุดข้อมูลก็เหมือนกับการพยายามค้นหาเข็มใน ไม่ใช่แค่กองหญ้า แต่รวมถึงโรงนาทั้งหมด ด้วยศักยภาพของหน่วยข้อมูลหลายล้านล้านหน่วยที่ประกอบเป็นชุดข้อมูล

ข่าวดีก็คือ David Gleich นักวิทยาศาสตร์และศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่ Purdue University และเพื่อนนักวิทยาศาสตร์ Tamal Dey และ Meng Liu ได้คิดวิธีแก้ปัญหาแบบใหม่สำหรับปัญหาที่ยากจะแก้ไขนี้

"เครื่องมือที่เราพัฒนาขึ้นช่วยให้คุณค้นหาสถานที่ที่เครือข่ายพูดว่า 'เฮ้ ฉันต้องการข้อมูลเพิ่มเติมเพื่อทำสิ่งที่คุณขอ'" Gleich กล่าว "ฉันอยากจะแนะนำให้ผู้คนใช้เครื่องมือนี้ในสถานการณ์การตัดสินใจโครงข่ายประสาทเทียมที่มีเดิมพันสูงหรืองานทำนายภาพ"

อะไรอยู่ภายใต้ประทุน?

เมื่อ Gleich ดำเนินการวิจัย เขาประสบปัญหากับฐานข้อมูลของเขา ฐานข้อมูลสับสนระหว่างรังสีเอกซ์ ลำดับยีน และเครื่องแต่งกายกับสิ่งอื่น

เขาบอกว่าโครงข่ายประสาทเทียมมีนิสัยติดป้ายรถยนต์ว่าเป็นเครื่องเล่นเทปคาสเซ็ตมาเป็นเวลานาน เพียงเพราะรูปถ่ายเหล่านี้ดึงมาจากรายการขายออนไลน์ที่มีอุปกรณ์เครื่องเสียงติดรถยนต์

ปัญหามาจากการที่อัลกอริธึมจัดตำแหน่งรูปภาพในหมวดหมู่ที่ถูกต้อง ซึ่งขึ้นอยู่กับการสร้างตัวเลขที่เรียกว่า 'เวกเตอร์แบบฝัง' ซึ่งจะถูกปั่นออกมาตามข้อมูลบนรูปภาพ

AI จะเปรียบเทียบเวกเตอร์ที่ฝังอยู่ใน 'ชุดการฝึก' กับเวกเตอร์ของรูปภาพชุดข้อมูลอื่นๆ รูปภาพถูกจัดอยู่ในหมวดหมู่ที่มีความน่าจะเป็นในการจับคู่สูง

น่าเสียดายที่เวกเตอร์ที่ฝังไว้มักไม่มีความหมาย ดังนั้น เมื่อมีข้อมูลที่ไม่ตรงกันหรือข้อผิดพลาด ไม่มีทางที่จะเจาะลึกเข้าไปในเลเยอร์ของอัลกอริทึมที่ไม่รู้จักและมองเห็นข้อผิดพลาดที่กระทำผิดได้

เพื่อเอาชนะอุปสรรคนี้ Gleich และทีมของเขาได้ใช้แผนการอันชาญฉลาด พวกเขาใช้เส้นทางอ้อมอย่างรวดเร็วไปยังสาขาภูมิประเทศ ซึ่งเป็นจุดที่เทคโนโลยีอย่าง Google Maps ค้นพบต้นกำเนิดของมัน

พวกเขาตัดสินใจสร้างแผนผังความสัมพันธ์ของเวกเตอร์บนกราฟ Reeb ซึ่งเป็น 'ตัวอธิบายรูปร่างขนาดกะทัดรัด' และวิธีแก้ปัญหาที่ใช้ในการวิเคราะห์รูปร่างมาเป็นเวลา 75 ปี

จากนั้นชุดข้อมูลจะถูกแปลงเป็นจุดรหัสสีซึ่งเป็นตัวแทนของเวกเตอร์ที่อยู่ในหมวดหมู่หนึ่งหรืออีกประเภทหนึ่ง จุดสีเดียวกันที่กระจุกกันอย่างใกล้ชิดแสดงถึงประเภทเดียวกัน

จุดสีต่างๆ ที่ทับซ้อนกันแสดงให้เห็นทันทีว่ามีบางอย่างผิดปกติ และที่สำคัญที่สุดคือสามารถพบปัญหาได้ที่ไหน

และเช่นเดียวกัน อวัยวะภายในของอัลกอริธึมที่ปกติแล้วจะเข้าใจยากพร้อมกับจุดที่เป็นปัญหาก็ชัดเจนราวกับเป็นกลางวัน

“สิ่งที่เรากำลังทำคือนำชุดข้อมูลที่ซับซ้อนเหล่านี้ออกมาจากเครือข่าย และให้ผู้คนได้ทราบว่าเครือข่ายมองเห็นข้อมูลในระดับมหภาคได้อย่างไร” Gleich กล่าว

“แผนที่ Reeb แสดงถึงสิ่งสำคัญ กลุ่มใหญ่ และความสัมพันธ์ระหว่างกัน และนั่นทำให้มองเห็นข้อผิดพลาดได้”

Gleich และเพื่อนร่วมงานก้าวไปอีกขั้นหนึ่ง โดยทำให้เครื่องมือจำแนกภาพ AI ของพวกเขาพร้อมใช้งานต่อสาธารณะ รหัสสำหรับเครื่องมือนี้มีอยู่ใน GitHub เช่นเดียวกับการสาธิตกรณีการใช้งาน

ตอนนี้ใครๆ ก็มีโอกาสได้เห็นความสัมพันธ์ระหว่างรูปภาพในชุดข้อมูล AI ซึ่งนักวิจัยเรียกว่า "มุมมองจากมุมสูง"

ผู้คนสามารถใช้เครื่องมือนี้เพื่อเจาะลึกและค้นหาสาเหตุของปัญหา ซึ่งเป็นสิ่งที่โครงข่ายประสาทเทียมจำเป็นอย่างยิ่งเพื่อให้ทำงานได้อย่างถูกต้อง ป้องกันอคติ และปกป้องเราให้ปลอดภัย