ตำรวจใช้ AI เขียนรายงานอาชญากรรม มีอะไรผิดพลาดเกิดขึ้น?

Draft One ของ Axon มีไว้เพื่อประหยัดเวลาของเจ้าหน้าที่ แต่เทคโนโลยีสามารถทำให้เกิดอาการประสาทหลอนในการปรับปรุงการรักษาพยาบาลได้หรือไม่

แม้จะมีเอกสารความเสี่ยงที่บันทึกไว้ แต่หน่วยงานตำรวจบางแห่งของสหรัฐอเมริกากำลังทดสอบแชทบอทปัญญาประดิษฐ์ (AI) ที่สร้างรายงานอาชญากรรมเพื่อเป็นโซลูชั่นที่ช่วยประหยัดเวลา มีอะไรผิดพลาดเกิดขึ้น?

ตามรายงานของ Associated Press (AP) เจ้าหน้าที่ตำรวจในโอคลาโฮมาซิตีได้นำการใช้แชทบอท AI มาใช้เพื่อเขียน "ร่างแรก" ของรายงานอาชญากรรมและเหตุการณ์ที่เกิดขึ้นโดยใช้เสียงจากกล้องติดตัว ร้อยตำรวจเอก Matt Gilmore ใช้แชทบอท AI ชื่อ Draft One เพื่อช่วยเขียนรายงานเหตุการณ์หลังจากการตรวจค้นผู้ต้องสงสัยที่ไม่สำเร็จถูกบันทึกไว้ในกล้องติดตัวของเขา ซึ่งบันทึก "ทุกคำพูดและเสียงเห่าของ [สุนัขตำรวจ]" เสียงถูกใส่เข้าไปในเครื่องมือ AI เพื่อ "ปั่นรายงานภายในแปดวินาที"

Draft One ดึงข้อมูลจากโมเดล GPT-4 ของ OpenAI ซึ่งขับเคลื่อน ChatGPT เพื่อวิเคราะห์และสรุปเสียงจากกล้องติดตัว Axon ผู้พัฒนาเทคโนโลยีและอาวุธสำหรับกองทัพ การบังคับใช้กฎหมาย และพลเรือน ได้เปิดตัวผลิตภัณฑ์เมื่อต้นปีนี้โดยถือเป็น "การดำเนินการในทันที" ตัวคูณแรง" และตัวจับเวลาสำหรับแผนกต่างๆ ตามการเปิดเผย

เป็นที่รู้กันว่า ChatGPT มีอาการประสาทหลอน แต่ตัวแทนของ Axon กล่าวว่าพวกเขามีส่วนรับผิดชอบต่อเรื่องนี้ Noah Spitzer-Williams ผู้จัดการผลิตภัณฑ์อาวุโสของ Axon บอกกับ AP ว่า Draft One ลด "แป้นหมุนความคิดสร้างสรรค์" ของ ChatGPT ลง เพื่อที่ "จะไม่ประดับประดาหรือหลอนในลักษณะเดียวกับที่คุณจะพบว่าคุณเพิ่งใช้ ChatGPT บน เป็นเจ้าของ."

ตามคำแนะนำของอัยการ กรมตำรวจของโอคลาโฮมาซิตีใช้ Draft One สำหรับเหตุการณ์ "เล็กน้อย" เท่านั้น ไม่มีความผิดทางอาญาหรืออาชญากรรมรุนแรง รายงานที่สร้างขึ้นไม่นำไปสู่การจับกุม แต่หน่วยงานตำรวจอื่นๆ รวมถึงในฟอร์ตคอลลินส์ โคโลราโด และลาฟาแยต รัฐอินเดียนา ก็ได้นำเทคโนโลยีนี้ไปใช้เป็นตัวช่วยเบื้องต้นในการเขียนรายงานสำหรับทุกกรณีแล้ว หัวหน้าตำรวจคนหนึ่งบอกกับ AP ว่า "ได้รับความนิยมอย่างไม่น่าเชื่อ"

อย่างไรก็ตาม ผู้เชี่ยวชาญบางคนมีความกังวล นักวิชาการด้านกฎหมาย แอนดรูว์ เฟอร์กูสัน บอกกับ AP ว่าเขา "กังวลว่าระบบอัตโนมัติและความง่ายของเทคโนโลยีจะทำให้เจ้าหน้าที่ตำรวจระมัดระวังในการเขียนน้อยลง"

ความลังเลใจของเขาเกี่ยวกับการปรับใช้ AI ในหน่วยงานตำรวจเพื่อปรับปรุงขั้นตอนการทำงานพูดถึงปัญหาที่ครอบคลุมเกี่ยวกับการพึ่งพาระบบ AI เพื่อทำให้กระบวนการทำงานบางอย่างเป็นแบบอัตโนมัติ มีตัวอย่างมากมายของเครื่องมือที่ขับเคลื่อนด้วย AI ที่ทำให้การเลือกปฏิบัติในระบบแย่ลง ตัวอย่างเช่น การวิจัยแสดงให้เห็นว่านายจ้างใช้เครื่องมือที่ขับเคลื่อนด้วย AI เพื่อทำให้กระบวนการจ้างงานของตนเป็นไปโดยอัตโนมัติ "โดยไม่มีมาตรการเชิงรุกเพื่อบรรเทาปัญหา [นำไปสู่] อคติที่เกิดขึ้นในเครื่องมือการจ้างงานเชิงคาดการณ์ตามค่าเริ่มต้น"

ในการเปิดตัว Axon กล่าวว่า Draft One "มีการป้องกันที่สำคัญหลายประการ โดยกำหนดให้รายงานทุกฉบับต้องได้รับการตรวจสอบและอนุมัติโดยเจ้าหน้าที่ที่เป็นมนุษย์ เพื่อให้มั่นใจในความถูกต้องและความรับผิดชอบของข้อมูลก่อนที่จะส่งรายงาน" แน่นอนว่านี่เป็นการเปิดโอกาสให้เกิดข้อผิดพลาดและความลำเอียงของมนุษย์ ซึ่งเป็นปัญหาที่ทราบกันมานานแล้วในวงการตำรวจ

ยิ่งไปกว่านั้น นักวิจัยภาษาศาสตร์พบว่าแบบจำลองภาษาขนาดใหญ่ (LLM) เช่น GPT-4 "รวบรวมการเหยียดเชื้อชาติแบบแอบแฝง" และไม่สามารถฝึกให้ตอบโต้แบบเหมารวมทางเชื้อชาติในเรื่องภาษาชายขอบ เช่น ภาษาอังกฤษแบบแอฟริกันอเมริกัน (AAE) โดยพื้นฐานแล้ว LLM สามารถขยายอคติทางภาษาถิ่นได้เมื่อตรวจพบภาษาเช่น AAE

Edward Ongweso Jr. บรรณาธิการนิตยสาร Logic และศาสตราจารย์ด้านไอที Jathan Sadowski ยังวิพากษ์วิจารณ์รายงานอาชญากรรมอัตโนมัติในพอดแคสต์ This Machine Kills โดยสังเกตว่าอคติทางเชื้อชาติที่เกิดขึ้นจากข้อมูลการฝึกอบรมที่มีศูนย์กลางอยู่ที่ตะวันตกและกล้องติดตัวสามารถทำร้ายคนชายขอบได้

เมื่อถูกถามว่า Axon ชดเชยข้อกังวลเหล่านี้อย่างไร Victoria Keough ผู้อำนวยการฝ่ายการสื่อสารเชิงกลยุทธ์ย้ำถึงความสำคัญของการตรวจสอบโดยมนุษย์ ในอีเมลที่ส่งถึง ZDNET เธอตั้งข้อสังเกตว่า "รายงานคำบรรยายของตำรวจยังคงเป็นความรับผิดชอบของเจ้าหน้าที่" และ "Axon ทดสอบผลิตภัณฑ์ที่ใช้ AI ของเราอย่างเข้มงวด และปฏิบัติตามหลักการชี้นำชุดหนึ่งเพื่อให้แน่ใจว่าเราสร้างสรรค์นวัตกรรมอย่างมีความรับผิดชอบ"

บริษัทได้ทำการศึกษาภายในสองครั้งโดยใช้รายงานตัวอย่าง 382 ฉบับสำหรับการทดสอบอคติทางเชื้อชาติโดยเฉพาะ พวกเขาประเมินสามมิติ ได้แก่ ความสม่ำเสมอ ความสมบูรณ์ และความรุนแรงในการเลือกคำ เพื่อตรวจจับอคติทางเชื้อชาติที่อาจเกิดขึ้น และดูว่าแชทบอทปั่นป่วนถ้อยคำหรือเรื่องเล่าที่แตกต่างจาก "การถอดเสียงต้นฉบับ" หรือไม่ การศึกษาพบว่าไม่มี "ความแตกต่างที่มีนัยสำคัญทางสถิติ" ระหว่างรายงาน Draft One กับการถอดเสียง

แม้ว่า Draft One จะตีความเฉพาะเสียงเท่านั้น Axon ยังได้ทดสอบโดยใช้คอมพิวเตอร์วิทัศน์เพื่อสรุปฟุตเทจวิดีโอ อย่างไรก็ตาม Rick Smith ซีอีโอของ Axon กล่าวว่า "เมื่อพิจารณาจากความละเอียดอ่อนทั้งหมดเกี่ยวกับการรักษาพยาบาล เชื้อชาติ และอัตลักษณ์อื่น ๆ ของผู้ที่เกี่ยวข้อง นั่นเป็นประเด็นที่ผมคิดว่าเราจะต้องทำงานจริง ๆ ก่อนที่จะเปิดตัว"

Axon ซึ่งมีเป้าหมายในการลดการเสียชีวิตที่เกี่ยวข้องกับปืนระหว่างตำรวจและพลเรือนลง 50% ยังผลิตกล้องติดตัวซึ่งมีจุดมุ่งหมายเพื่อปรับปรุงการรักษาพยาบาลด้วยหลักฐานที่เป็นรูปธรรม อย่างไรก็ตาม ตามฐานข้อมูลการยิงของตำรวจของวอชิงตันโพสต์ ตำรวจได้สังหารผู้คนมากขึ้นทุกปีตั้งแต่ปี 2020 แม้ว่าจะมีการนำกล้องติดตัวไปทั่วทั้งหน่วยงานตำรวจของสหรัฐฯ ก็ตาม

ยังคงต้องรอดูว่าหน่วยงานอื่นๆ จะนำเครื่องมืออย่าง Draft One มาใช้หรือไม่ และจะส่งผลกระทบต่อความปลอดภัยสาธารณะอย่างไร