Red Hat เผยการปรับปรุงที่สำคัญของ Red Hat Enterprise Linux AI

เพียงไม่กี่สัปดาห์หลังจาก Red Hat เปิดตัว Red Hat Enterprise Linux AI บริษัทก็ได้เปิดตัวเวอร์ชันถัดไป: RHEL AI 1.2

นั่นมันเร็วมาก ย้อนกลับไปเมื่อต้นเดือนกันยายนที่ Red Hat เปิดตัว Red Hat Enterprise Linux AI (RHEL AI) 1.0 ตอนนี้ Red Hat ได้ติดตามด้วยการประกาศความพร้อมใช้งานทั่วไปของ RHEL AI 1.2 รุ่นล่าสุดนี้นำเสนอการปรับปรุงที่สำคัญหลายประการที่มุ่งปรับปรุงการพัฒนา การทดสอบ และการปรับใช้โมเดลภาษาขนาดใหญ่ (LLM)

ก่อนที่จะพูดถึงสิ่งใหม่และปรับปรุง ต่อไปนี้คือสิ่งที่ RHEL AI นำมาเล็กน้อย ได้รับการออกแบบมาเพื่อปรับปรุงการพัฒนา การทดสอบ และการปรับใช้โมเดล AI ทั่วไป (gen AI) RHEL AI ยังมีจุดมุ่งหมายเพื่อให้การฝึกอบรม LLM มีราคาไม่แพงอีกด้วย

แพลตฟอร์มใหม่นี้รวมกลุ่มโมเดลภาษาขนาดใหญ่ (LLM) Granite ที่ได้รับลิขสิทธิ์แบบโอเพ่นซอร์สของ IBM Research, เครื่องมือการจัดตำแหน่ง InstructLab ที่ใช้ระเบียบวิธี LAB และวิธีการทำงานร่วมกันในการพัฒนาโมเดลผ่านโครงการ InstructLab AI แบบโอเพ่นซอร์ส

RHEL AI ยังใช้การดึงข้อมูล-Augmented Generation (RAG) เพื่อให้ LLM เข้าถึงความรู้ภายนอกที่ได้รับอนุมัติซึ่งจัดเก็บไว้ในฐานข้อมูล เอกสาร และแหล่งข้อมูลอื่นๆ วิธีการนี้ช่วยเพิ่มความสามารถของ RHEL AI ในการให้คำตอบที่ถูกต้อง แทนที่จะเป็นคำตอบที่ฟังดูถูกต้อง

RHEL AI รุ่นต่อไปนี้มีการสนับสนุนฮาร์ดแวร์ที่ขยายมากขึ้น ขณะนี้เวอร์ชันใหม่รองรับเซิร์ฟเวอร์ Lenovo ThinkSystem SR675 V3 โดยเสนอตัวเลือกพรีโหลดจากโรงงานเพื่อการปรับใช้ที่รวดเร็วและง่ายขึ้น ในการดูตัวอย่างเทคโนโลยี RHEL AI 1.2 แนะนำการรองรับ AMD Instinct Accelerators รวมถึง MI300x GPU สำหรับการฝึกและการอนุมาน และ MI210 GPU สำหรับงานอนุมาน

RHEL AI 1.2 ยังได้ขยายขอบเขตการเข้าถึงไปยังแพลตฟอร์มคลาวด์หลัก ๆ โดยขณะนี้ผู้ใช้สามารถปรับใช้ RHEL AI บน Azure และ Google Cloud Platform (GCP) นอกเหนือจากการสนับสนุนที่มีอยู่สำหรับ AWS และ IBM Cloud

ซอฟต์แวร์นี้ยังได้รับการปรับปรุงที่สำคัญอีกด้วย คุณสมบัติ "การตรวจสอบตามระยะ" ใหม่ช่วยบันทึกการฝึกซ้อมระยะยาวในช่วงเวลาปกติระหว่างการปรับแต่งแบบละเอียด ผู้ใช้สามารถดำเนินการฝึกอบรมต่อได้จากจุดตรวจสอบที่บันทึกไว้ล่าสุด แทนที่จะเริ่มต้นใหม่ ซึ่งช่วยประหยัดเวลาอันมีค่าและทรัพยากรในการคำนวณ

RHEL AI 1.2 มาพร้อมกับ PyTorch Fully Sharded Data Parallel (FSDP) เปิดตัวเป็นตัวอย่างเทคโนโลยี FSDP ช่วยลดเวลาการฝึกลงอย่างมากสำหรับการฝึกโมเดลหลายเฟสด้วยข้อมูลสังเคราะห์ เทคโนโลยีจะแบ่งพารามิเตอร์ของโมเดล การไล่ระดับสี และสถานะของเครื่องมือเพิ่มประสิทธิภาพให้กับผู้ปฏิบัติงานแบบขนาน (เช่น GPU) ซึ่งจะช่วยลดเวลาในการฝึกอบรมลงได้มาก

RHEL AI สานต่อความเคลื่อนไหวของ Red Hat เพื่อให้การฝึกอบรม LLM เข้าถึงได้มากขึ้นสำหรับโปรแกรมเมอร์และผู้เชี่ยวชาญเฉพาะด้าน ไม่ใช่แค่นักวิทยาศาสตร์ข้อมูลเท่านั้น

ดังที่ โจ เฟอร์นันเดส รองประธาน Foundation Model Platform ของ Red Hat กล่าวว่า "RHEL AI มอบความสามารถให้กับผู้เชี่ยวชาญด้านโดเมน ไม่ใช่แค่นักวิทยาศาสตร์ข้อมูล เพื่อสนับสนุนโมเดล Gen AI ที่สร้างมาเพื่อวัตถุประสงค์เฉพาะบนไฮบริดคลาวด์ ขณะเดียวกันก็ช่วยให้องค์กรไอทีสามารถใช้งาน เพื่อปรับขนาดโมเดลเหล่านี้สำหรับการผลิตผ่าน Red Hat OpenShift AI"

กล่าวอีกนัยหนึ่ง ด้วย RHEL AI การทำให้ AI มีประโยชน์สำหรับความต้องการเฉพาะของคุณกลายเป็นเรื่องง่ายยิ่งขึ้น

ในที่สุด ด้วยการเปิดตัว RHEL AI 1.2 Red Hat ก็เลิกรองรับเวอร์ชัน 1.1 เช่นกัน โดยให้เวลาผู้ใช้ 30 วันในการอัปเกรดเป็นรุ่นล่าสุด การทำซ้ำอย่างรวดเร็วนี้ตอกย้ำการรุกเชิงรุกของ Red Hat เข้าสู่ตลาด AI ระดับองค์กร ไม่ว่าจะดีขึ้นหรือแย่ลง การพัฒนา AI ก็เพิ่มขึ้นอย่างรวดเร็ว