แชทบอทกําลังบิดเบือนข่าว - แม้กระทั่งสําหรับผู้ใช้ที่ชําระเงิน

เครื่องมือ AI ให้คําตอบที่ผิดด้วย 'ความมั่นใจที่น่าตกใจ' ตามรายงานใหม่

เครื่องมือ AI และข่าวสารดูเหมือนจะไม่ผสมผสานกัน -- แม้ในระดับพรีเมียม 

การวิจัย ใหม่จาก Tow Center for Digital Journalism ของโคลัมเบียพบว่าแชทบอท AI หลายตัวมักจะระบุบทความข่าวผิด ผลการวิจัยนี้สร้างขึ้นจาก การวิจัย เบื้องต้นที่ Tow เผยแพร่ในเดือนพฤศจิกายน ซึ่งแสดงให้เห็นว่า ChatGPT Search บิดเบือนเนื้อหาจากผู้เผยแพร่โฆษณาโดยที่ตระหนักเพียงเล็กน้อยหรือไม่มีเลยว่าอาจผิด 

เทรนด์นี้ไม่ใช่เรื่องใหม่ เมื่อเดือนที่แล้ว BBC พบว่า แชทบอท ChatGPT, Gemini, Copilot และ Perplexity ประสบปัญหาในการสรุปเรื่องราวข่าวอย่างถูกต้อง 

นอกจากนี้ รายงานของ Tow ยังพบหลักฐานใหม่ว่าแชทบอท AI จํานวนมากสามารถเข้าถึงเนื้อหาจากไซต์ที่บล็อกโปรแกรมรวบรวมข้อมูลได้ นี่คือสิ่งที่ควรรู้และรุ่นใดที่พิสูจน์ได้ว่าน่าเชื่อถือน้อยที่สุด

ไม่สามารถระบุบทความ ข่าวได้

นักวิจัยพ่วงสุ่มเลือกบทความละ 10 บทความจากสํานักพิมพ์ 20 แห่ง พวกเขาสอบถามแชทบอทแปดตัวพร้อมข้อความที่ตัดตอนมา โดยขอให้ AI ส่งคืนพาดหัว ผู้เผยแพร่ วันที่ และ URL ของบทความ ที่เกี่ยวข้อง

"เราจงใจเลือกข้อความที่ตัดตอนมาซึ่งหากวางลงในการค้นหาของ Google แบบดั้งเดิม จะส่งคืนแหล่งที่มาดั้งเดิมภายในผลลัพธ์สามรายการแรก"

หลังจากเรียกใช้การสืบค้น 1,600 รายการ นักวิจัยได้จัดอันดับการตอบกลับของแชทบอทโดยพิจารณาจากความแม่นยําในการดึงบทความ ผู้เผยแพร่ และ URL แชทบอทส่งคืนคําตอบที่ไม่ถูกต้องให้กับกว่า 60% ของคําถาม ผลลัพธ์แตกต่างกันไปตามแชทบอท: Perplexity มีคําถามผิด 37% ในขณะที่ Grok 3 มีข้อผิดพลาด 94%

เหตุใดสิ่งนี้จึงสําคัญ หากแชทบอทแย่กว่า Google ในการดึงข้อมูลข่าวสารอย่างถูกต้องพวกเขาไม่จําเป็นต้องพึ่งพาในการตีความและอ้างอิงข่าวนั้นซึ่งทําให้เนื้อหาของการตอบกลับของพวกเขาแม้ว่าจะเชื่อมโยงกันก็น่าสงสัย มากขึ้น

ให้คําตอบผิดอย่างมั่นใจ

นักวิจัยตั้งข้อสังเกตว่าแชทบอทส่งคืนคําตอบที่ผิดด้วย "ความมั่นใจที่น่าตกใจ" โดยมีแนวโน้มที่จะไม่รับรองผลลัพธ์หรือยอมรับช่องว่างความรู้ ChatGPT "ไม่เคยปฏิเสธที่จะให้คําตอบ" แม้ว่า 134 จาก 200 คําตอบจะไม่ถูกต้องก็ตาม จากเครื่องมือทั้งแปดตัว Copilot ปฏิเสธที่จะตอบคําถามมากกว่าที่ตอบ 

"เครื่องมือทั้งหมดมีแนวโน้มที่จะให้คําตอบที่ไม่ถูกต้องมากกว่าการรับทราบข้อจํากัดอย่างสม่ําเสมอ" รายงานชี้แจง

ระดับแบบชําระเงินไม่น่าเชื่อถือมากนัก

แม้ว่ารุ่นพรีเมียมอย่าง Grok-3 Search และ Perplexity Pro จะตอบได้ถูกต้องกว่าเวอร์ชันฟรี แต่ก็ยังให้คําตอบที่ผิดอย่างมั่นใจมากขึ้น

"ความขัดแย้งนี้เกิดจากแนวโน้ม [ของบอท] ที่จะให้คําตอบที่ชัดเจน แต่ผิด แทนที่จะปฏิเสธที่จะตอบคําถามโดยตรง" รายงานอธิบาย "ข้อกังวลพื้นฐานขยายออกไปนอกเหนือจากข้อผิดพลาดข้อเท็จจริงของแชทบอทไปจนถึงน้ําเสียงการสนทนาที่เชื่อถือได้ ซึ่งอาจทําให้ผู้ใช้แยกแยะระหว่างข้อมูลที่ถูกต้องและไม่ถูกต้องได้ยาก"

"ความมั่นใจที่ไม่ได้รับนี้ทําให้ผู้ใช้มีภาพลวงตาที่อาจเป็นอันตรายของความน่าเชื่อถือและความถูกต้อง" รายงานกล่าวเสริม 

การประดิษฐ์ลิงค์

โมเดล AI เป็นที่ทราบกันดีว่ามีอาการประสาทหลอนเป็นประจํา แต่ในขณะที่แชทบอททั้งหมดประสาทหลอนบทความปลอมในการตอบกลับ Tow พบว่า Gemini และ Grok 3 ทําได้มากที่สุด มากกว่าครึ่งหนึ่งของเวลา "แม้ว่า Grok จะระบุบทความอย่างถูกต้อง แต่ก็มักจะเชื่อมโยงกับ URL ที่ปลอมแปลง" รายงานระบุ ซึ่งหมายความว่า Grok สามารถค้นหาชื่อและผู้เผยแพร่ที่ถูกต้องได้ แต่จากนั้นก็สร้างลิงก์ บทความจริง

การวิเคราะห์ข้อมูล การจราจรของ Comscore โดย Generative AI ใน Newsroom ซึ่งเป็นความคิดริเริ่มของมหาวิทยาลัย Northwestern ยืนยันรูปแบบนี้ การศึกษาข้อมูลตั้งแต่เดือนกรกฎาคมถึงพฤศจิกายน 2024 แสดงให้เห็นว่า ChatGPT สร้าง URL เสีย 205 รายการในการตอบกลับ แม้ว่าสิ่งพิมพ์จะลบเรื่องราวออกเป็นครั้งคราว ซึ่งอาจส่งผลให้เกิดข้อผิดพลาด 404 แต่นักวิจัยตั้งข้อสังเกตว่าจากการขาดข้อมูลที่เก็บถาวร "มีแนวโน้มว่าโมเดลดังกล่าวมีภาพหลอนลิงก์ที่ดูน่าเชื่อถือไปยังสํานักข่าวที่เชื่อถือได้เมื่อตอบคําถามของผู้ใช้" 

การค้นพบนี้น่าเป็นห่วงเนื่องจากการนําเครื่องมือค้นหา AI มาใช้เพิ่มขึ้น แม้ว่าพวกเขาจะยังไม่แซงหน้าเครื่องมือค้นหาแบบดั้งเดิม แต่ Google ก็ลดลงต่ํากว่า 90% ในไตรมาสที่ 4 ของปี 2024 เป็นครั้งแรกในรอบ 10 ปี ซึ่งบ่งบอกถึงผลกระทบของเครื่องมือยอดนิยมอย่าง ChatGPT บริษัทยัง เปิดตัวโหมด AI สําหรับผู้ใช้บางรายเมื่อสัปดาห์ที่แล้ว ซึ่งแทนที่การค้นหาปกติด้วยแชทบอท (แม้ว่าภาพรวม AI จะไม่เป็นที่นิยมก็ตาม) 

เมื่อพิจารณาถึงผู้ใช้ประมาณ 400 ล้านคนแห่กันไปที่ ChatGPT ทุกสัปดาห์ ความไม่น่าเชื่อถือและการบิดเบือนของการอ้างอิงทําให้ ChatGPT และเครื่องมือ AI ยอดนิยมอื่นๆ อาจเป็นกลไกของข้อมูลที่ผิด แม้ว่าพวกเขาจะดึงงานจากเว็บไซต์ ข่าวที่ได้รับเครดิตและตรวจสอบข้อเท็จจริงอย่างเข้มงวดก็ตาม

รายงานของ Tow สรุปว่าเครื่องมือ AI ให้เครดิตแหล่งที่มาผิดหรือแสดงผลงานของตนอย่างไม่ถูกต้องอาจส่งผลเสียต่อชื่อเสียง ของผู้เผยแพร่โฆษณา

การเพิกเฉยต่อโปรแกรมรวบรวมข้อมูลที่ถูก บล็อก

ข่าวแย่ลงสําหรับผู้เผยแพร่: รายงาน Tow ของโคลัมเบียพบว่าแชทบอทหลายตัวยังคงสามารถดึงบทความจากผู้เผยแพร่ที่บล็อกโปรแกรมรวบรวมข้อมูลโดยใช้ Robots Exclusion Protocol (REP) หรือ robots.txt อย่างไรก็ตาม แชทบอทล้มเหลวในการตอบคําถามเกี่ยวกับไซต์ที่อนุญาตให้พวกเขาเข้าถึงเนื้อหา ได้อย่างถูกต้อง

"Perplexity Pro เป็นผู้กระทําความผิดที่เลวร้ายที่สุดในเรื่องนี้ โดยระบุอย่างถูกต้องเกือบหนึ่งในสามของเก้าสิบข้อความที่ตัดตอนมาจากบทความที่ไม่ควรเข้าถึง" รายงานระบุ 

สิ่งนี้ชี้ให้เห็นว่าไม่เพียงแต่บริษัท AI ยังคงเพิกเฉยต่อ REP เช่นเดียวกับ Perplexity และ คนอื่นๆ ที่ถูกจับได้ว่าทําเมื่อปีที่แล้ว แต่ผู้เผยแพร่ในข้อตกลงการอนุญาตให้ใช้สิทธิ์ใด ๆ กับพวกเขาไม่รับประกันว่าจะมีการอ้างถึง อย่างถูกต้อง

รายงานของโคลัมเบียเป็นเพียงอาการหนึ่งของปัญหาที่ใหญ่กว่า รายงาน Generative AI ใน Newsroom ยังพบว่าแชทบอทไม่ค่อยนําการเข้าชมไปยังเว็บไซต์ข่าวที่พวกเขากําลังดึงข้อมูล (และด้วยเหตุนี้ แรงงานมนุษย์) ซึ่งรายงาน อื่นๆ ก็ยืนยันเช่นกัน ตั้งแต่เดือนกรกฎาคมถึงพฤศจิกายน 2024 Perplexity ส่งต่อ 7% ของการอ้างอิงไปยังเว็บไซต์ข่าว ในขณะที่ ChatGPT ส่งต่อเพียง 3% ในการเปรียบเทียบ เครื่องมือ AI มีแนวโน้มที่จะสนับสนุนทรัพยากรทางการศึกษา เช่น Scribd.com, Coursera และแหล่งข้อมูลที่ติดอยู่กับมหาวิทยาลัย โดยส่งปริมาณมากถึง 30% ของปริมาณการใช้งาน 

บรรทัดล่าง: การรายงานต้นฉบับยังคงเป็นแหล่งข่าวที่น่าเชื่อถือมากกว่าที่เครื่องมือ AI สํารอก อย่าลืมตรวจสอบลิงก์ทั้งหมดก่อนที่จะยอมรับสิ่งที่พวกเขาบอกคุณว่าเป็นข้อเท็จจริง และอย่าลืมใช้ทักษะการคิดเชิงวิพากษ์และการรู้เท่าทันสื่อของคุณเองเพื่อประเมินคําตอบ