บอท AI กำลังทำข้อสอบของโรงเรียนแพทย์ แต่พวกเขาควรจะเป็นแพทย์ของคุณหรือไม่?

เครื่องมือ AI เช่น ChatGPT สามารถเปลี่ยนรูปแบบการดูแลสุขภาพได้โดยช่วยให้ผู้คนเข้าถึงการดูแลได้มากขึ้น แต่ก็มีข้อควรระวังอยู่มาก

เมื่อเร็ว ๆ นี้ Rubicon ดิจิทัลได้ถูกข้ามไปในสาขาการดูแลสุขภาพซึ่งก่อให้เกิดความสงสัยและความเกลียดชังและแม้แต่ความกลัว

Google เปิดตัวโครงการริเริ่มด้านสุขภาพมากมาย แต่ไม่มีโครงการใดที่ดึงดูดความสนใจได้มากเท่ากับการอัปเดตโมเดลการเรียนรู้ทางการแพทย์ขนาดใหญ่ (LLM) ที่เรียกว่า Med-Palm ซึ่งเปิดตัวครั้งแรกเมื่อปีที่แล้ว

LLM ดังที่คุณอาจทราบแล้วว่าเป็นปัญญาประดิษฐ์ประเภทหนึ่งที่ป้อนข้อมูลจำนวนมหาศาล เช่น เนื้อหาทั้งหมดของอินเทอร์เน็ตก่อนปี 2021 ในกรณีของ ChatGPT ที่ได้รับความนิยมอย่างล้นหลาม การใช้การเรียนรู้ของเครื่องและโครงข่ายประสาทเทียมช่วยให้พวกเขาสามารถตอบคำถามได้อย่างมั่นใจภายในเสี้ยววินาทีที่ดูเหมือนมนุษย์อย่างน่าขนลุก

บอท นพ

ในกรณีของ Med-Palm และผู้สืบทอด Palm 2 นั้น LLM ที่มุ่งเน้นเรื่องสุขภาพได้รับอาหารที่เข้มงวดซึ่งเต็มไปด้วยข้อมูลด้านสุขภาพ และจากนั้นก็เข้ารับการตรวจสอบใบอนุญาตทางการแพทย์ของสหรัฐอเมริกาหรือ USMLE ซึ่งเป็นโรคระบาดของแพทย์ผู้ปรารถนาและวิตกกังวล ผู้ปกครอง. ประกอบด้วยสามส่วนและต้องใช้เวลาหลายร้อยชั่วโมงในการยัดเยียด ข้อสอบเหล่านี้มีความยากอย่างฉาวโฉ่

ถึงกระนั้น Med-Palm 2 ก็ทุบมันออกจากสวนสาธารณะ โดยแสดงในระดับแพทย์ "ผู้เชี่ยวชาญ" ด้วยคะแนน 85% ซึ่งสูงกว่ารุ่นก่อนถึง 18% และไม่ต้องสงสัยเลยว่าทำให้ผู้ปกครองที่เขียนโค้ดซอฟต์แวร์ของตนไปอยู่ที่ผับในคืนนั้นอย่างไม่ต้องสงสัย .

LLM ChatGPT ซึ่งเป็นผู้เชี่ยวชาญทั่วไปของบริษัท ทำคะแนนได้เพียงหรือใกล้เกณฑ์ความแม่นยำที่ผ่าน 60% จากชุดข้อมูลทั่วไป ไม่ใช่การวัดผลด้านสุขภาพโดยเฉพาะ แต่นั่นเป็นของปีที่แล้ว เป็นเรื่องยากที่จะจินตนาการว่าเวอร์ชันต่อๆ ไปจะไม่เข้าสอบในอนาคตอันใกล้นี้

บอทที่มีอคติและอคติของมนุษย์

แต่ไม่ใช่ทุกคนที่จะเชื่อว่าอัจฉริยะทางการแพทย์ที่เพิ่งสร้างใหม่เหล่านี้ดีสำหรับเรา

เมื่อไม่กี่เดือนที่ผ่านมา Google ประสบกับความพ่ายแพ้อย่างน่าอัปยศเมื่อ Bard บอทที่เพิ่งเปิดตัวหลังจากการเปิดตัวครั้งยิ่งใหญ่ได้ตอบคำถามพื้นฐานเกี่ยวกับกล้องโทรทรรศน์อย่างไม่ถูกต้อง โดยแฮ็กมูลค่าหลักทรัพย์ตามราคาตลาดไปได้ถึง 100,000 ล้านดอลลาร์

อุบัติเหตุดังกล่าวกระตุ้นให้เกิดการอภิปรายอย่างต่อเนื่องเกี่ยวกับความแม่นยำของระบบ AI และผลกระทบต่อสังคม

ตั้งแต่ห้องฉุกเฉินไปจนถึงการผ่าตัดและการดูแลเชิงป้องกัน ประเพณีของมนุษย์ที่มีอคติต่อผู้หญิง ผู้สูงอายุ และคนผิวสี ซึ่งโดยพื้นฐานแล้วคือคนชายขอบ ได้รับการปกป้องอย่างมีประสิทธิภาพกับเครื่องจักรของเรา

ความเป็นจริงพื้นฐานในระบบที่เสียหาย

ถึงกระนั้น ระบบการรักษาพยาบาลในสหรัฐฯ ก็พังทลายลงอย่างมาก โดยมีชาวอเมริกันอย่างน้อย 30 ล้านคนที่ไม่มีประกัน และอีกหลายสิบล้านคนกำลังดิ้นรนเพื่อเข้าถึงบริการดูแลขั้นพื้นฐาน ซึ่งความกังวลเกี่ยวกับอคติอาจเป็นสิ่งฟุ่มเฟือยที่ไม่สมราคา

ยกตัวอย่างวัยรุ่น พวกเขามีแนวโน้มที่จะทนทุกข์ทรมานมาก โดยต้องรับมือกับโรคอ้วนและวัยแรกรุ่นในช่วงปีแรก ๆ และกิจกรรมทางเพศ ยาเสพติด และแอลกอฮอล์ในระยะต่อมา

ในช่วง 10 ปีก่อนเกิดโรคระบาด ความเศร้าและความสิ้นหวังในหมู่วัยรุ่น รวมถึงความคิดและพฤติกรรมฆ่าตัวตาย เพิ่มขึ้น 40% ตามข้อมูลของศูนย์ควบคุมและป้องกันโรค (CDC)

“เราเห็นอัตราการฆ่าตัวตายและภาวะซึมเศร้าสูงมาก และสิ่งนี้เกิดขึ้นมาระยะหนึ่งแล้ว” นักจิตวิทยา Kimberly Hoagwood, PhD, ศาสตราจารย์ด้านจิตเวชเด็กและวัยรุ่นจาก Grossman School of Medicine มหาวิทยาลัยนิวยอร์ก กล่าว “มันแย่ลงอย่างแน่นอนในช่วงที่มีการระบาดใหญ่”

อย่างไรก็ตาม สถิติแสดงให้เห็นว่าปัจจุบันวัยรุ่น ครึ่ง ไม่ได้รับการดูแลสุขภาพจิตใดๆ เลย ตั้งแต่ทหารผ่านศึก -- อย่างน้อยยี่สิบคนที่ปลิดชีพตัวเองทุกวันตลอดทั้งปี -- ไปจนถึงผู้สูงอายุ, ผู้ที่ไม่สามารถจ่ายค่าประกันที่สูงชันได้ หรือผู้ที่มีความต้องการทางการแพทย์เร่งด่วนแต่ต้องเผชิญกับการรอคอยที่ยาวนานอย่างไม่สิ้นสุด, บอทเพื่อสุขภาพ และ แม้แต่ AI ทั่วไปอย่าง ChatGPT ก็สามารถกลายเป็นเส้นชีวิตได้

Woebot บริการแชทบอตด้านสุขภาพยอดนิยม เพิ่งดำเนินการสำรวจระดับชาติซึ่งพบว่า 22% ของผู้ใหญ่ใช้บริการของบอตสุขภาพที่ขับเคลื่อนด้วย AI อย่างน้อย 44% กล่าวว่าพวกเขาละทิ้งนักบำบัดมนุษย์โดยสิ้นเชิง และใช้เพียงแชทบอทเท่านั้น

คุณหมอเข้า(ตลอด)ค่ะ

ดังนั้นจึงเป็นเรื่องง่ายที่จะเห็นว่าทำไมเราจึงเริ่มมองหาเครื่องจักรเพื่อการช่วยเหลือ

บอทสุขภาพ AI จะไม่ป่วยหรือเหนื่อย พวกเขาไม่ใช้วันหยุด พวกเขาไม่ว่าอะไรก็ตามที่คุณมาสายสำหรับการนัดหมาย

พวกเขาไม่ตัดสินคุณเหมือนที่มนุษย์ทำ จิตแพทย์ก็เป็นมนุษย์ที่สามารถมีอคติทางวัฒนธรรม เชื้อชาติ หรือเพศได้มากเท่ากับคนอื่นๆ อาจทำให้ผู้คนรู้สึกอึดอัดที่จะบอกรายละเอียดที่ใกล้ชิดที่สุดของตนกับคนที่พวกเขาไม่รู้จัก

แต่บอทสุขภาพมีประสิทธิภาพหรือไม่? จนถึงขณะนี้ ยังไม่มีการศึกษาระดับชาติใดๆ ที่สามารถวัดประสิทธิผลได้ แต่ข้อมูลโดยสรุปเผยให้เห็นว่ามีบางอย่างผิดปกติเกิดขึ้น

แม้แต่คนอย่าง Eduardo Bunge รองประธานกรรมการฝ่ายจิตวิทยาที่ Palo Alto University ซึ่งเป็นที่ยอมรับว่าไม่เชื่อเรื่องบอทด้านสุขภาพ ก็ยังเอาชนะใจได้เมื่อเขาตัดสินใจลองใช้แชทบอทในช่วงที่มีความเครียดผิดปกติ

“มันให้สิ่งที่ฉันต้องการ” เขากล่าว “เมื่อถึงจุดนั้น ฉันตระหนักได้ว่ามีบางอย่างที่เกี่ยวข้องเกิดขึ้นที่นี่” เขาบอกกับ Psychiatry Online

บาร์เคลย์ แบรม นักมานุษยวิทยาที่ศึกษาเรื่องสุขภาพจิต กำลังอยู่ในช่วงตกต่ำในช่วงที่มีการระบาดใหญ่ และขอความช่วยเหลือจากโวบอต ตามบทบรรณาธิการของเขาในนิวยอร์กไทมส์

บอทตรวจสอบเขาทุกวันและส่งงานเกมให้เขาเพื่อแก้ไขภาวะซึมเศร้า

คำแนะนำคือเส้นเขตแดนซ้ำซาก แต่จากการฝึกฝนซ้ำแล้วซ้ำเล่าโดยบอท Bram บอกว่าเขาบรรเทาอาการได้ “บางทีการรักษาในแต่ละวันไม่จำเป็นต้องซับซ้อนมากนัก” เขากล่าวในคอลัมน์ของเขา

คำตอบที่ 'หลอน'

อย่างไรก็ตาม การแยกแยะเนื้อหาในอินเทอร์เน็ตและเปิดเผยคำตอบสำหรับอาการเจ็บป่วยทางการแพทย์ที่ซับซ้อน เช่นเดียวกับที่ ChatGPT ทำ อาจกลายเป็นหายนะได้

เพื่อทดสอบใบรับรองทางการแพทย์ของ ChatGPT ฉันขอให้มันช่วยฉันเรื่องอาการเจ็บป่วยที่ปรุงแต่งขึ้นมา ก่อนอื่น ฉันขอให้มันช่วยแก้อาการคลื่นไส้ของฉัน

บอทแนะนำสิ่งต่างๆ (การพักผ่อน การให้น้ำ อาหารรสจืด ขิง) และสุดท้ายให้ใช้ยาที่จำหน่ายหน้าเคาน์เตอร์ เช่น Dramamine ตามด้วยคำแนะนำให้ไปพบแพทย์หากอาการแย่ลง

หากคุณมีปัญหาเกี่ยวกับต่อมไทรอยด์ ความดันในดวงตา (ผู้ป่วยโรคต้อหินต้องทนทุกข์ทรมานจากสิ่งนี้) หรือความดันโลหิตสูง การใช้ยา Dramamine อาจเป็นอันตรายได้ อย่างไรก็ตาม สิ่งเหล่านี้ไม่ได้ถูกตั้งค่าสถานะ และไม่มีคำเตือนให้ตรวจสอบกับแพทย์ก่อนรับประทานยา

จากนั้นฉันก็ถาม ChatGPT ว่า "ยาที่ฉันควรพิจารณาสำหรับภาวะซึมเศร้า" คืออะไร GPT ขยันพอที่จะแนะนำให้ปรึกษาแพทย์ผู้เชี่ยวชาญก่อนเนื่องจากไม่มีคุณสมบัติที่จะให้คำแนะนำทางการแพทย์ แต่ได้ระบุประเภทและประเภทของยาที่สร้างเซโรโทนินหลายประเภทและประเภทที่ใช้กันทั่วไปในการรักษาภาวะซึมเศร้า
อย่างไรก็ตาม เมื่อปีที่แล้ว การศึกษาที่ครอบคลุมซึ่งมีรายงานอย่างกว้างขวางและครอบคลุมซึ่งตรวจสอบการศึกษาอื่นๆ หลายร้อยชิ้นในช่วงหลายทศวรรษที่ผ่านมาเกี่ยวกับความเชื่อมโยงระหว่างภาวะซึมเศร้ากับเซโรโทนิน พบว่าไม่มีความเชื่อมโยงระหว่างทั้งสองเลย

สิ่งนี้นำเราไปสู่ปัญหาถัดไปกับบอทอย่าง ChatGPT ความเป็นไปได้ที่มันอาจให้ข้อมูลที่ล้าสมัยแก่คุณในสาขาที่มีไดนามิกสูงเช่นการแพทย์ GPT ได้รับการป้อนข้อมูลจนถึงปี 2021 เท่านั้น

บอทอาจสามารถเจาะข้อสอบของโรงเรียนแพทย์โดยอิงตามเนื้อหาที่เป็นที่ยอมรับและคาดเดาได้ แต่กลับพบว่าตัวเองเลวร้ายมาก หรืออาจเป็นอันตรายด้วยซ้ำ ล้าสมัยด้วยการค้นพบทางวิทยาศาสตร์ใหม่ๆ ที่สำคัญ

และในสถานที่ซึ่งไม่มีคำตอบสำหรับคำถามของคุณ มันก็จะประกอบขึ้นมาใหม่ ตามที่นักวิจัยจากคณะแพทยศาสตร์มหาวิทยาลัยแมริแลนด์ซึ่งถามคำถาม ChatGPT ที่เกี่ยวข้องกับมะเร็งเต้านม บอทตอบสนองด้วยความแม่นยำสูง อย่างไรก็ตาม หนึ่งในสิบไม่ได้เป็นเพียงสิ่งที่ไม่ถูกต้อง แต่มักถูกประดิษฐ์ขึ้นอย่างสมบูรณ์ ซึ่งเป็นปรากฏการณ์ที่สังเกตได้อย่างกว้างขวางที่เรียกว่า 'ภาพหลอน' ของ AI

"เราเห็นจากประสบการณ์ของเราว่าบางครั้ง ChatGPT ก็สร้างบทความในวารสารปลอมหรือสมาคมด้านสุขภาพเพื่อสนับสนุนข้อกล่าวอ้างดังกล่าว" ดร. พอล ยี กล่าว

ในทางการแพทย์ บางครั้งสิ่งนี้อาจเป็นความแตกต่างระหว่างความเป็นและความตาย

ไม่ได้รับอนุญาตให้ป่วย

โดยรวมแล้ว ไม่ใช่เรื่องยากนักที่จะทำนายเส้นทางของ LLM ไปสู่เปลวไฟทางกฎหมายขนาดยักษ์ หากสามารถพิสูจน์ได้ว่าคำแนะนำที่ผิดพลาดของบอทที่สร้างมานุษยวิทยานั้นก่อให้เกิดอันตรายร้ายแรงต่อร่างกาย ไม่ว่าจะมีการเปิดเผยหน้าแรกมาตรฐานหรือไม่ก็ตาม

นอกจากนี้ยังมีคดีความที่อาจเกิดขึ้นเพื่อไล่ล่าปัญหาความเป็นส่วนตัวอีกด้วย รายงานการสอบสวนล่าสุดของ Joanne Kim แห่ง Sanford School of Public Policy ของ Duke University เปิดเผยตลาดใต้ดินทั้งหมดสำหรับข้อมูลผู้ป่วยที่มีความละเอียดอ่อนสูงที่เกี่ยวข้องกับสภาวะสุขภาพจิตที่คัดมาจากแอปด้านสุขภาพ

คิมรายงานว่าบริษัท 11 แห่งที่เธอพบว่าเต็มใจขายชุดข้อมูลรวมที่มีข้อมูลเกี่ยวกับยาแก้ซึมเศร้าที่ผู้คนรับประทานอยู่

บริษัทแห่งหนึ่งยังหาชื่อและที่อยู่ของผู้ที่ทุกข์ทรมานจากความเครียดหลังเหตุการณ์สะเทือนใจ ภาวะซึมเศร้า วิตกกังวล หรือโรคไบโพลาร์ อีกแห่งหนึ่งขายฐานข้อมูลที่มีบันทึกสุขภาพจิตที่รวบรวมไว้หลายพันรายการ โดยเริ่มต้นที่ 275 ดอลลาร์ต่อ 1,000 "รายชื่อติดต่อเกี่ยวกับอาการเจ็บป่วย"
เมื่อข้อมูลเหล่านี้เผยแพร่สู่อินเทอร์เน็ตและขยายบอต AI ทั้งผู้ประกอบวิชาชีพทางการแพทย์และบริษัท AI ก็สามารถเปิดเผยตัวเองเป็นอาชญากรได้ และคดีฟ้องร้องแบบกลุ่มจากผู้ป่วยที่โกรธจัด