Google อ้างว่า Gemma 3 มีความแม่นยําถึง 98% ของ DeepSeek โดยใช้ GPU เพียงตัวเดียว

Google กล่าวว่าพบจุดที่เหมาะสมระหว่างพลังงานและประสิทธิภาพโดยใช้ 'การกลั่น' ของโครงข่ายประสาทเทียม

เศรษฐศาสตร์ของปัญญาประดิษฐ์เป็นประเด็นร้อนในช่วงหลัง โดยสตาร์ทอัพ DeepSeek AI อ้างว่าประหยัดขนาดที่เปิดหูเปิดตาในการปรับใช้ชิป GPU

สองคนสามารถเล่นเกมนั้นได้ เมื่อวันพุธ Google ได้ประกาศโมเดลภาษาขนาดใหญ่โอเพ่นซอร์สล่าสุด Gemma 3 เข้าใกล้การบรรลุความแม่นยําของ R1 ของ DeepSeek ด้วยเศษเสี้ยวของพลังการประมวลผลโดยประมาณ

การใช้คะแนน "Elo" ซึ่งเป็นระบบการวัดทั่วไปที่ใช้ในการจัดอันดับหมากรุกและนักกีฬา Google อ้างว่า Gemma 3 อยู่ภายใน 98% ของคะแนน R1 ของ DeepSeek, 1338 เทียบกับ 1363 สําหรับ R1 

นั่นหมายความว่า R1 เหนือกว่า Gemma 3 อย่างไรก็ตาม จากการประมาณการของ Google ยักษ์ใหญ่ด้านการค้นหาอ้างว่าต้องใช้ชิป GPU "H100" กระแสหลักของ Nvidia 32 ตัวเพื่อให้ได้คะแนน R1 ในขณะที่ Gemma 3 ใช้ GPU H100 เพียงตัวเดียว

ความสมดุลของการประมวลผลและคะแนน Elo ของ Google เป็น "จุดที่น่าสนใจ" บริษัทอ้าง 

ในบล็อกโพสต์ Google เรียกเก็บเงินโปรแกรมใหม่ว่าเป็น "โมเดลที่มีความสามารถมากที่สุดที่คุณสามารถเรียกใช้บน GPU หรือ TPU ตัวเดียว" โดยอ้างถึงชิป AI แบบกําหนดเองของบริษัท "หน่วยประมวลผลเทนเซอร์"

"Gemma 3 มอบประสิทธิภาพที่ล้ําสมัยสําหรับขนาดของมัน โดยมีประสิทธิภาพเหนือกว่า Llama-405B, DeepSeek-V3 และ o3-mini ในการประเมินความชอบของมนุษย์เบื้องต้นบนลีดเดอร์บอร์ดของ LMArena" บล็อกโพสต์กล่าว โดยอ้างถึงคะแนน Elo

"สิ่งนี้ช่วยให้คุณสร้างประสบการณ์ผู้ใช้ที่น่าสนใจซึ่งสามารถใส่ได้กับโฮสต์ GPU หรือ TPU ตัวเดียว"

โมเดลของ Google ยังอยู่ในอันดับต้น ๆ ของคะแนน Elo ของ Llama 3 ของ Meta ซึ่งคาดว่าจะต้องใช้ GPU 16 ตัว (โปรดทราบว่าจํานวนชิป H100 ที่ใช้โดยคู่แข่งเป็นการประมาณการของ Google DeepSeek AI ได้เปิดเผยเพียงตัวอย่างการใช้ GPU H1,814 ที่ทรงพลังน้อยกว่าของ Nvidia 800 ตัวเพื่อตอบเซิร์ฟเวอร์ด้วย R1)

ข้อมูลโดยละเอียดเพิ่มเติมมีให้ในบล็อกโพสต์สําหรับนักพัฒนาเกี่ยวกับ HuggingFace ซึ่งมีที่ เก็บ Gemma 3

โมเดล Gemma 3 มีไว้สําหรับการใช้งานบนอุปกรณ์มากกว่าศูนย์ข้อมูล มีพารามิเตอร์จํานวนน้อยกว่า R1 และโมเดลโอเพ่นซอร์สอื่นๆ อย่างมาก โดยทั่วไปยิ่งมีจํานวนพารามิเตอร์มากเท่าใดก็ยิ่งต้องใช้พลังการประมวลผลมากขึ้นเท่านั้น 

รหัส Gemma มีจํานวนพารามิเตอร์ 1 พันล้าน 4 พันล้าน 12 พันล้าน และ 27 พันล้าน ซึ่งค่อนข้างเล็กตามมาตรฐานปัจจุบัน ในทางตรงกันข้าม R1 มีจํานวนพารามิเตอร์ 671 พันล้าน ซึ่งสามารถเลือกใช้ 37 พันล้านได้โดยการเพิกเฉยหรือปิดบางส่วนของเครือข่าย 

การปรับปรุงหลักเพื่อให้ประสิทธิภาพดังกล่าวเป็นไปได้คือเทคนิค AI ที่ใช้กันอย่างแพร่หลายที่เรียกว่าการกลั่น โดยน้ําหนักโมเดลที่ผ่านการฝึกอบรมจากโมเดลที่ใหญ่กว่าจะถูกดึงออกจากโมเดลนั้นและแทรกลงในโมเดลที่เล็กกว่า เช่น Gemma 3 เพื่อเพิ่มพลัง 

โมเดลกลั่นยังดําเนินการผ่านมาตรการควบคุมคุณภาพที่แตกต่างกันสามแบบ รวมถึงการเรียนรู้แบบเสริมแรงจากข้อเสนอแนะของมนุษย์ (RLHF) เพื่อกําหนดผลลัพธ์ของ GPT และโมเดลภาษาขนาดใหญ่อื่นๆ ให้ไม่น่ารังเกียจและเป็นประโยชน์ เช่นเดียวกับการเรียนรู้แบบเสริมแรงจากข้อเสนอแนะของเครื่อง (RLMF) และการเรียนรู้แบบเสริมแรงจากข้อเสนอแนะการดําเนินการ (RLEF) ซึ่ง Google กล่าวว่าช่วยปรับปรุงความสามารถทางคณิตศาสตร์และการเข้ารหัสของโมเดลตามลําดับ

โพสต์บล็อกสําหรับ นักพัฒนาของ Google ให้รายละเอียดแนวทางเหล่านั้น และโพสต์แยกต่างหากจะอธิบายเทคนิคที่ใช้ในการเพิ่มประสิทธิภาพเวอร์ชันที่เล็กที่สุด ซึ่งรวมถึงเทคนิคทางวิศวกรรม AI ทั่วไปสี่ประการ ได้แก่ การหาปริมาณ การอัปเดตเค้าโครงแคช "คีย์-ค่า" ปรับปรุงเวลาในการโหลดของตัวแปรบางตัว และ "การแบ่งปันน้ําหนัก GPU"

บริษัทไม่เพียงแต่เปรียบเทียบคะแนน Elo เท่านั้น แต่ยังเปรียบเทียบ Gemma 3 กับ Gemma 2 รุ่นก่อนหน้าและกับโมเดล Gemini แบบปิดในการทดสอบเกณฑ์มาตรฐาน เช่น งานเขียนโปรแกรม LiveCodeBench โดยทั่วไปแล้ว Gemma 3 จะต่ํากว่าความแม่นยําของ Gemini 1.5 และ Gemini 2.0 แต่ Google เรียกผลลัพธ์ที่น่าสังเกต โดยระบุว่า Gemma 3 "แสดงประสิทธิภาพในการแข่งขันเมื่อเทียบกับโมเดล Gemini แบบปิด"

โมเดลราศีเมถุนมีจํานวนพารามิเตอร์มากกว่า Gemma มาก

ความก้าวหน้าหลักของ Gemma 3 เหนือ Gemma 2 คือ "หน้าต่างบริบท" ที่ยาวขึ้น ซึ่งเป็นจํานวนโทเค็นอินพุตที่สามารถเก็บไว้ในหน่วยความจําเพื่อให้โมเดลทํางานได้ในเวลาใดก็ได้ 

Gemma 2 มีโทเค็นเพียง 8,000 โทเค็น ในขณะที่ Gemma 3 มี 128,000 โทเค็น ซึ่งนับเป็นหน้าต่างบริบท "ยาว" ซึ่งเหมาะสําหรับการทํางานกับเอกสารหรือหนังสือทั้งเล่ม (ราศีเมถุนและโมเดลโซปิดอื่น ๆ ยังคงมีความสามารถมากกว่ามาก โดยมีหน้าต่างบริบท 2 ล้านโทเค็นสําหรับ Gemini 2.0 Pro)

Gemma 3 ยังเป็นมัลติโมดัล ซึ่ง Gemma 2 ไม่ใช่ ซึ่งหมายความว่าสามารถจัดการอินพุตรูปภาพพร้อมกับข้อความเพื่อตอบคําถาม เช่น "รูปภาพนี้มีอะไรอยู่"

และสุดท้าย Gemma 3 รองรับมากกว่า 140 ภาษา แทนที่จะรองรับแค่ภาษาอังกฤษใน Gemma 2

คุณสมบัติที่น่าสนใจอื่น ๆ อีกมากมายถูกฝังอยู่ในข้อควรทราบ 

ตัวอย่างเช่น ปัญหาที่รู้จักกันดีกับโมเดลภาษาขนาดใหญ่ทั้งหมดคือโมเดลอาจจดจําบางส่วนของชุดข้อมูลการฝึกอบรม ซึ่งอาจนําไปสู่การรั่วไหลของข้อมูลและการละเมิดความเป็นส่วนตัวหากโมเดลถูกแตะโดยใช้เทคนิคที่เป็นอันตราย 

นักวิจัยของ Google ทดสอบการรั่วไหลของข้อมูลโดยการสุ่มตัวอย่างข้อมูลการฝึกอบรมและดูว่าสามารถดึงข้อมูลได้โดยตรงจาก Gemma 3 เทียบกับรุ่นอื่นๆ ได้มากน้อยเพียงใด "เราพบว่าโมเดล Gemma 3 จดจําข้อความแบบยาวในอัตราที่ต่ํากว่าโมเดลก่อนหน้านี้มาก" พวกเขาตั้งข้อสังเกต ซึ่งในทางทฤษฎีหมายความว่าโมเดลมีความเสี่ยงต่อการรั่วไหลของ ข้อมูลน้อยกว่า

ผู้ที่ต้องการรายละเอียดทางเทคนิคเพิ่มเติมสามารถอ่านเอกสารทางเทคนิคของ Gemma 3 ได้