LangChain เปลี่ยน GenAI ให้เป็นผู้ช่วยที่มีประโยชน์อย่างแท้จริงได้อย่างไร

ยุคของเจ้าหน้าที่ AI อาจเริ่มต้นด้วยการรวมโมดูลง่ายๆ เข้าด้วยกันซึ่งช่วยให้เกิดเวิร์กโฟลว์สำหรับงานจริงได้ การวินิจฉัยโรคมะเร็งเป็นเพียงตัวอย่างหนึ่งเท่านั้น

การใช้ LangChain ทำให้โปรแกรมเมอร์สามารถรวมภาพอัลตราซาวนด์สำหรับสิ่งต่างๆ เช่น การวินิจฉัยโรคมะเร็งเต้านม เข้ากับข้อความภาษาธรรมชาติสไตล์ ChatGPT

การเคลื่อนไหว AI เจนเนอเรชั่นของ ChatGPT ของ OpenAI และอนุพันธ์ของมันอาจเป็นที่รู้จักกันดีที่สุดในเรื่องเนื้อเพลงแร็พที่ไม่ดีและความช่วยเหลือในการเขียนโปรแกรมอัตโนมัติ แต่เฟรมเวิร์กโอเพ่นซอร์สใหม่ที่ทำงานบนโมเดลภาษาขนาดใหญ่กำลังนำการมุ่งเน้นเชิงปฏิบัติมาสู่ GenAI มากขึ้น

LangChain ซึ่งมีอายุเพียงหนึ่งปีกว่าๆ คือสิ่งที่คุณคิดได้ว่าเป็นการแนะนำการเขียนโปรแกรมตัวแทน AI อย่างนุ่มนวลผ่านชุดไลบรารีที่เรียบง่ายซึ่งทำงานบนโมเดล GenAI เทคโนโลยีนี้ได้รับการสนับสนุนโดยบริษัทสตาร์ทอัพชื่อเดียวกันที่ได้รับการสนับสนุนจากกิจการร่วมค้า ซึ่งนำเสนอแพลตฟอร์มเซิร์ฟเวอร์สำหรับการใช้งานเชิงพาณิชย์ของแอพที่สร้างด้วย LangChain

จุดสำคัญของ LangChain คือการผสานรวม prompt ของโมเดลภาษาขนาดใหญ่เข้ากับทรัพยากรภายนอกที่หลากหลาย ด้วยวิธีนี้ จึงสามารถดึงข้อมูลจากฐานข้อมูลได้ เช่น และส่งเอาต์พุตโมเดลภาษาไปยังแอปพลิเคชัน รับเอาต์พุตของแอปนั้นและส่งกลับไปยังโมเดลภาษา และอื่นๆ

กรอบงานจึงช่วยให้สามารถเชื่อมโยงทรัพยากรเข้าด้วยกัน โดยที่ทรัพยากรแต่ละรายการจะกลายเป็นตัวแทน จัดการกับปัญหาบางส่วนภายในบริบทของแบบจำลองภาษาและการแจ้งเตือน

มีตัวอย่างการใช้งานจริงที่น่าสนใจจากสาขาวิชาต่างๆ อยู่แล้ว

ตัวอย่างเช่น การใช้ LangChain โปรแกรมเมอร์สามารถรวมภาพอัลตราซาวนด์สำหรับสิ่งต่าง ๆ เช่น การวินิจฉัยโรคมะเร็งเต้านม เข้ากับข้อความแจ้งภาษาธรรมชาติสไตล์ ChatGPT นักรังสีวิทยาสามารถเรียกใช้คอมพิวเตอร์ในฐานะผู้ช่วยวิเคราะห์ด้วยวลีเช่น "โปรดให้ฉันสรุปผลการสังเกตที่ให้มาโดยขึ้นอยู่กับตำแหน่งของโพรบ" ในภาพอัลตราซาวนด์เต้านม

ด้านที่น่าสนใจของโครงการนี้ ซึ่งสร้างโดย Jaeyoung Huh และเพื่อนร่วมงานจากสถาบันวิทยาศาสตร์และเทคโนโลยีขั้นสูงแห่งเกาหลี ก็คือโครงการนี้ได้รวบรวมโครงข่ายประสาทเทียมที่แตกต่างกัน 3 เครือข่าย ซึ่งเป็นเครือข่ายประสาทที่ใช้กันอย่างแพร่หลาย ได้แก่ ResNet-50 ซึ่งเป็นระบบการมองเห็นแบบคลาสสิก เครือข่ายที่ยอดเยี่ยมในการจำแนกภาพ

โครงข่ายประสาทเทียมทั้งสามเครือข่ายแต่ละเครือข่ายได้รับการฝึกฝนแยกกันเพื่อทำงานเดียว เช่น การระบุรูปแบบที่น่าสงสัยในภาพอัลตราซาวนด์ การจัดประเภทแบบฟอร์มนั้น และการเลือกตำแหน่งของแบบฟอร์มในร่างกาย

วัตถุประสงค์ของ LangChain คือการรวมเครือข่ายทั้งสามนี้ไว้ด้วยคำสั่งภาษาธรรมชาติ เช่น "ให้ข้อมูลการตรวจสอบสำหรับภาพที่กำหนดให้" จากนั้น "ให้ข้อมูลสรุปของการสังเกตที่ได้รับ"

ในระดับที่ง่ายที่สุด LangChain สามารถเป็นวิธีสร้างส่วนหน้าที่เป็นมิตรต่อผู้ใช้สำหรับ AI ซึ่งเป็นแบบที่ผู้เชี่ยวชาญในสาขาต่าง ๆ เช่น AI ทางการแพทย์ใฝ่ฝันมานาน ซึ่งต้องการสร้างผู้ช่วยแพทย์ที่จะตอบสนองต่อคำสั่งพูด .

เป้าหมายของความพยายามของ LangChain คือการพยายามกำจัดภาพหลอนที่น่าอับอายของ GenAI - แนวโน้มของโปรแกรมในการยืนยันข้อมูลเท็จอย่างมั่นใจ - โดยการต่อสายดินเทคโนโลยีในแหล่งข้อมูลภายนอกที่เชื่อถือได้ กลุ่มบริษัทที่ปรึกษา Accenture นำโดย Sohini Roychowdhury อธิบายระบบสำหรับการคาดการณ์ทางการเงินผ่าน "แชทบอททางการเงิน"

ระบบจะนำเซลล์จากสเปรดชีตมาแปลงเป็นข้อความที่เป็นภาษาธรรมชาติเกี่ยวกับข้อมูล ซึ่งสามารถค้นหาประโยคที่ตรงกับคำถามได้

วิธีการทำงาน: ผู้ใช้แจ้งโมเดลภาษาด้วยคำถามที่เป็นภาษาธรรมชาติ เช่น "ยอดขายของฉันเป็นอย่างไรบ้าง" พรอมต์จะถูกป้อนลงในเทมเพลตที่สร้างพรอมต์ที่แม่นยำยิ่งขึ้นให้กับโมเดลภาษา ข้อความแจ้งนั้นอาจรวมถึงคำคำถามที่มีรายละเอียดมากกว่าที่บุคคลจะนึกถึง เพื่อสร้างการแจ้งเตือนที่ดีขึ้น

พรอมต์ที่ได้รับการปรับปรุงจะทริกเกอร์การค้นหาคำหลัก และการค้นหานั้นจะเลือกว่าประโยคใดซึ่งสร้างจากข้อมูลแบบตาราง จะชี้ไปยังข้อมูลที่เกี่ยวข้องมากที่สุดในตาราง (เช่น ยอดขาย กำไร)

เมื่อดึงข้อมูลที่เกี่ยวข้องแล้ว เทมเพลตชุดที่สองจะช่วยให้แชทบอตกำหนดคำตอบสำหรับคำถามโดยใช้ประโยคจากข้อมูลแบบตารางในการตอบกลับแชท

Roychowdhury และทีมงานไม่สามารถกำจัดภาพหลอนได้ แต่พวกเขาได้ออกแบบกลไกการให้คะแนน "ความมั่นใจ" โดยที่แชทบอทจะตรวจสอบคำตอบกับคำถาม ดูว่าเข้ากันได้ดีเพียงใด จากนั้นจึงกำหนดคะแนนความเชื่อมั่นเป็นสูง ปานกลาง หรือต่ำสำหรับคำตอบ

"คะแนนความเชื่อมั่นจะบอกให้ผู้ใช้ระมัดระวังในขณะที่ทำการตัดสินใจที่สำคัญโดยใช้การตอบสนองที่มีความเชื่อมั่นปานกลางถึงต่ำ" Roychowdhury อธิบาย "คะแนนความเชื่อมั่นยังช่วยให้แน่ใจได้อีกว่าคำค้นหาของผู้ใช้ใดที่ต้องได้รับการปรับปรุงเพิ่มเติมเพื่อความเชื่อถือได้"

โปรแกรมเมอร์พบว่า LangChain สามารถเป็นวิธีหนึ่งในการทำให้งานธรรมดาๆ บางอย่างเป็นไปโดยอัตโนมัติ ตัวอย่างหนึ่งคือการตรวจสอบการใช้งานเว็บของพนักงานเพื่อให้แน่ใจว่าพวกเขาไม่ได้เรียกดูเว็บไซต์ที่ผิดกฎหมาย เอกสารที่อธิบาย "นโยบายการใช้งานที่ยอมรับได้" สำหรับองค์กรจะถูกอัปโหลดไปยังสิ่งที่เรียกว่าฐานข้อมูลเวกเตอร์ ซึ่งเป็นฐานข้อมูลชนิดพิเศษที่สามารถเปรียบเทียบสตริงข้อความจาก URL ไปยังคอลเลกชันของสตริงข้อความในเอกสารเพื่อดูว่ามี การแข่งขัน

เมื่อบุคคลพิมพ์ URL ลงในเบราว์เซอร์ ทั้ง URL ของไซต์และเนื้อหาสรุปของไซต์จะถูกเปรียบเทียบโดยอัตโนมัติกับเอกสารนโยบายในฐานข้อมูลเวกเตอร์เพื่อดูว่าเนื้อหาของไซต์ตรงกับหัวข้อที่ต้องห้ามหรือไม่ โปรแกรมเมอร์สามารถทำการเปรียบเทียบโดยอัตโนมัติด้วยข้อความธรรมดา โดยถามว่า "มีอะไรในไซต์นี้ตรงกับรายการต้องห้ามหรือไม่"

ตัวอย่างดังกล่าวทำให้ชัดเจนว่าโมเดลภาษาขนาดใหญ่และ LangChain กำลังก้าวไปไกลเกินกว่าที่แต่ละบุคคลจะสงสัย พวกเขากำลังกลายเป็นหนทางสำหรับโปรแกรมเมอร์ในการใช้คำสั่งภาษาธรรมชาติเพื่อรวมเครื่องมือต่างๆ ไว้สำหรับฟังก์ชันที่อยู่เบื้องหลัง

LangChain ไม่ใช่เฟรมเวิร์กเดียวสำหรับการรวบรวมเวิร์กโฟลว์ที่มีคุณภาพตัวแทน และเฟรมเวิร์กดังกล่าวอีกมากมายกำลังถูกสร้างขึ้น รวมถึง Semantic Kernel ของ Microsoft และ LlamaIndex โอเพ่นซอร์ส ซึ่งสร้างบน LangChain

กลุ่มนักวิชาการที่ Stanford, UC Berkeley และ Carnegie Mellon พร้อมด้วยผู้ร่วมมือจากอุตสาหกรรมเอกชน ในเดือนตุลาคมได้แนะนำสิ่งที่พวกเขาเรียกว่า DSPy ซึ่งเป็นวิธีการเขียนโปรแกรมที่แทนที่ข้อความแจ้งภาษาธรรมชาติที่เขียนด้วยมือด้วยคำอธิบายการทำงาน และในทางกลับกันสามารถสร้างได้โดยอัตโนมัติ แจ้ง คำอธิบายการทำงานอาจกว้างมาก เช่น "ใช้คำถามและส่งกลับคำตอบ" DSPy มีคอมไพเลอร์เพื่อเพิ่มประสิทธิภาพการไหลของโมเดลภาษาและเครื่องมือสนับสนุน

ผู้เขียนตั้งข้อสังเกตว่าความพยายามของ DSPy นั้นคล้ายคลึงกับเฟรมเวิร์กการเรียนรู้เชิงลึกที่มีโครงข่ายประสาทเทียมขั้นสูงผ่านเลเยอร์ของนามธรรม รวมถึง Torch และ Theano

ผู้เขียนอ้างว่ามีการปรับปรุงคุณภาพอย่างมากจากการที่บุคคลจัดทำข้อความแจ้งด้วยตนเองในแต่ละกรณี “หากไม่มีคำสั่งที่สร้างขึ้นด้วยมือและภายในไม่กี่นาทีถึงสิบนาทีในการรวบรวม องค์ประกอบของโมดูล DSPy สามารถเพิ่มคุณภาพของโปรแกรมอย่างง่ายจาก 33% เป็น 82%” พวกเขาเขียน

มันเป็นวันแรกของเกมเฟรมเวิร์ก GenAI และคุณสามารถคาดหวังเลเยอร์นามธรรมอีกมากมายที่ด้านบน ด้านล่าง และรอบๆ LangChain ในปีที่จะมาถึง