Cerebras ผู้บุกเบิก AI กำลังมี 'ปีแห่งสัตว์ประหลาด' ในการประมวลผล AI แบบไฮบริด
ผู้ผลิตคอมพิวเตอร์ AI กำลังค้นหาบทบาทใหม่ในการสร้างคลัสเตอร์คอมพิวเตอร์ขนาดใหญ่ที่ใช้สำหรับงาน AI และงานทางวิทยาศาสตร์ทุกประเภท
Andrew Feldman ผู้ก่อตั้ง Cerebras บนลังบรรจุสำหรับ Condor Galaxy 1 หรือ "CG-1" ซึ่งเป็นคอมพิวเตอร์ AI แบบขนานขนาดใหญ่ที่สร้างขึ้นสำหรับไคลเอนต์ G42
โลกกำลังขาดแคลนชิป GPU จากผู้จำหน่ายปัญญาประดิษฐ์รายใหญ่อย่าง Nvidia จนถึงขณะนี้ยังไม่สร้างยอดขายชิปที่เพิ่มขึ้นอย่างมีนัยสำคัญจากคู่แข่ง Advanced Micro Devices และ Intel แต่อาจช่วยสร้างโมเดลการประมวลผลรูปแบบใหม่ได้
Andrew Feldman ผู้ร่วมก่อตั้งและ CEO ของ Cerebras Systems บริษัทสตาร์ทอัพด้านการประมวลผล AI ซึ่งขายคอมพิวเตอร์ AI ขนาดใหญ่ CS-2 ซึ่งใช้ชิปที่ใหญ่ที่สุดในโลก กล่าวว่า "มีทางเลือกอื่นนอกเหนือจาก Nvidia มากขึ้นเรื่อยๆ" .
เฟลด์แมนและทีมงานเริ่มขายคอมพิวเตอร์เพื่อแข่งขันกับ GPU ของ Nvidia เมื่อสี่ปีที่แล้ว เรื่องตลกเกิดขึ้นระหว่างทางไปตลาด Feldman ค้นพบมากขึ้นเรื่อยๆ ว่าธุรกิจของเขาเป็นแบบไฮบริด โดยมียอดขายของระบบแต่ละระบบ แต่มียอดขายที่ใหญ่กว่ามากของระบบขนานขนาดใหญ่ที่ Cerebras สร้างขึ้นในช่วงหลายเดือน จากนั้นจึงทำงานในนามของลูกค้าในฐานะบริการประมวลผลบนคลาวด์ AI โดยเฉพาะ
ธุรกิจ "เปลี่ยนแปลงไปโดยสิ้นเชิง" สำหรับ Cerebras Feldman บอกกับ ZDNET "แทนที่จะซื้อเครื่องหนึ่งหรือสองเครื่องและวางงาน [คอมพิวเตอร์] ไว้ในเครื่องเดียวเป็นเวลาหนึ่งสัปดาห์ ลูกค้าอยากให้งานดังกล่าวอยู่ในเครื่อง 16 เครื่องเป็นเวลาสองสามชั่วโมง" ในฐานะรูปแบบบริการคลาวด์
ผลลัพธ์ของ Cerebras คือ "สำหรับการขายฮาร์ดแวร์ คุณสามารถทำข้อตกลงน้อยลงและใหญ่กว่าได้ และคุณจะใช้เวลาและความพยายามอย่างมากในการจัดการระบบคลาวด์ของคุณเอง"
ในวันจันทร์ ที่การประชุมซูเปอร์คอมพิวเตอร์ในเดนเวอร์ที่เรียกว่า SC23 เฟลด์แมนและทีมงานได้เปิดเผยความสำเร็จล่าสุดของการขยายระบบคลาวด์ AI
บริษัทประกาศว่าพวกเขาได้เสร็จสิ้นการก่อสร้างคอมพิวเตอร์ AI ขนาดใหญ่ Condor Galaxy 1 หรือ "CG-1" ที่สร้างขึ้นสำหรับลูกค้า G42 ซึ่งเป็นบริษัทการลงทุนอายุห้าปีในอาบูดาบี สหรัฐอาหรับเอมิเรตส์
"ขณะนี้ เรามีความสามารถในการประมวลผลขั้นสูงมากจนคนอื่นใช้ระบบของเราในรูปแบบที่สร้างสรรค์ทุกประเภท" Feldman จาก Condor Galaxy กล่าว
Condor Galaxy ซึ่งประกาศเมื่อต้นปีนี้ ได้รับการตั้งชื่อตามกาแลคซีกังหันซึ่งอยู่ห่างจากโลก 212 ล้านปีแสง เครื่องจักรดังกล่าวเป็นชุด CS-2 ของ Cerebras จำนวน 64 ชิ้น มูลค่ารวมของ CG-1 นั้นเทียบเท่ากัน Feldman กล่าว โดยน้อยกว่าราคาของชิป GPU ของ Nvidia ที่เท่ากันเล็กน้อย โดยมีมูลค่าอยู่ที่ 150 ล้านดอลลาร์ โดยอิงตามราคาของคอมพิวเตอร์ 8-way "DGX" ของ Nvidia .
“นี่เป็นธุรกิจที่ดีมาก” เฟลด์แมนกล่าวถึงยอดขายตั๋วจำนวนมากเช่นนี้ “เรากำลังมีปีแห่งปีศาจ” ในแง่ของยอดขาย เขากล่าว “เราจะสร้างยอดขายมากขึ้นในไตรมาสนี้มากกว่าสตาร์ทอัพด้าน AI อื่นๆ ทั้งหมดในประวัติศาสตร์รวมกัน” เฟลด์แมนกล่าวเสริมโดยกล่าวถึงคู่แข่งอย่าง Graphcore และ Samba Nova Systems
เครื่อง Condor Galaxy ไม่ได้อยู่ในอาบูดาบี แต่ติดตั้งที่โรงงานของ Colovore ในเมืองซานตาคลารา รัฐแคลิฟอร์เนีย ซึ่งเป็นผู้ให้บริการโฮสติ้งที่แข่งขันในตลาดบริการคลาวด์เช่นเดียวกับ Equinix
Cerebras กำลังเริ่มสร้าง Condor Galaxy เวอร์ชันที่สอง หมายเลข 2 หรือ "CG-2" ซึ่งจะเพิ่มคอมพิวเตอร์อีก 64 เครื่องและพลังการประมวลผล "exaFLOPS" อีกสี่เครื่อง (exaFLOP คือการดำเนินการจุดลอยตัวหนึ่งพันล้านล้านรายการต่อวินาที ดูที่วิกิพีเดีย) รวมเป็น 8 exaFLOP สำหรับระบบ Condor Galaxy
คาดว่าระบบ Condor Galaxy จะมีทั้งหมด 36 exaFLOPs ในการกำหนดค่าสุดท้าย โดยใช้คอมพิวเตอร์ CS-2 จำนวน 576 เครื่อง ซึ่งดูแลโดยแกน CPU AMD จำนวน 654,000 แกน
เฟลด์แมนกล่าวว่าในรูปแบบธุรกิจไฮบริดใหม่ ตัวชี้วัดความสำเร็จไม่ใช่แค่ยอดขายของระบบ แต่ยังรวมถึงอัตราของลูกค้าใหม่ที่เช่าความจุในระบบคลาวด์ Cerebras โดยไม่ต้องซื้อล่วงหน้า "บางครั้งคุณต้องจัดส่งฮาร์ดแวร์ให้พวกเขา และพวกเขาก็ตั้งค่าแล้ว และคุณจะทดลองใช้งานหรือพิสูจน์มันในสถานที่ของพวกเขา และตอนนี้เราจะให้การเข้าสู่ระบบแก่คุณ" Feldman อธิบายเกี่ยวกับรูปแบบการขายแบบใหม่
GlaxoSmithKline ยักษ์ใหญ่ด้านเภสัชกรรม ซึ่งเป็นลูกค้ารายแรกๆ สำหรับฮาร์ดแวร์ CS-2 ก็กำลังเช่ากำลังการผลิตในระบบคลาวด์ของ Cerebras เช่นกัน Feldman กล่าว “พวกเขามีอุปกรณ์ของเราในองค์กร จากนั้นเมื่อพวกเขาต้องการวิ่งขนาดยักษ์ พวกเขาจะเข้ามาอยู่ในคลาวด์ของเรา” เขาอธิบาย "และนั่นเป็นโมเดลที่น่าสนใจมาก"
"ขณะนี้ เรามีความสามารถในการประมวลผลแบบซูเปอร์คอมพิวเตอร์มากจนคนอื่นใช้ระบบของเราในรูปแบบที่สร้างสรรค์ทุกประเภท" เฟลด์แมนกล่าว "ในพื้นที่ AI พวกเขากำลังฝึกโมเดลที่น่าสนใจ และในพื้นที่ซูเปอร์คอมพิวเตอร์ พวกเขากำลังทำงานที่น่าสนใจ และนี่ไม่ใช่กรณีของคนอื่น"
Feldman อ้างว่าเป็นงาน AI ที่ "น่าสนใจอย่างไม่น่าเชื่อ" ที่ทำกับ Condor Galaxy ซึ่งเป็นการพัฒนาโมเดลภาษาโอเพ่นซอร์สขนาดใหญ่ ซึ่งคล้ายกับ GPT ของ OpenAI โปรแกรมนั้นเป็นโมเดลที่มีประสิทธิภาพดีที่สุดโดยมี "พารามิเตอร์" ของโครงข่ายประสาทเทียม 3 พันล้านตัวบนพื้นที่เก็บข้อมูลการเรียนรู้ของเครื่อง Hugging Face เฟลด์แมนกล่าว โดยมีการดาวน์โหลดมากกว่าพันล้านครั้ง โปรแกรมนั้นมีขนาดเล็กพอที่จะรันบนสมาร์ทโฟนเพื่อทำการอนุมาน AI ซึ่งเป็นความตั้งใจ Feldman กล่าว
เพื่อเป็นตัวอย่างของงานทางวิทยาศาสตร์ Feldman อ้างถึงงานวิจัยของนักวิชาการที่ King Abdullah University of Science and Technology ในซาอุดิอาระเบีย ซึ่งเป็นผู้เข้ารอบสุดท้ายสำหรับรางวัล Gordon Bell Award อันโดดเด่น ซึ่งมอบให้โดย Association for Computing Machinery ซึ่งเป็นผู้จัดงาน SC23
"เราให้เวลาพวกเขากับ Condor Galaxy เพื่อที่พวกเขาจะได้ทำลายสถิติการประมวลผลแผ่นดินไหว" เฟลด์แมนกล่าว
เวอร์ชันแรกของ Condor Galaxy CG-1 ใช้เวลา 70 วันจึงจะเสร็จสมบูรณ์ Feldman กล่าว เครื่อง CG-2 จะสร้างเสร็จในต้นปีหน้า บริษัทกำลังวางแผน Condor Galaxy-3 อยู่แล้ว ซึ่งจะเพิ่มอีก 64 เครื่องและ exaFLOPS อีก 4 เครื่อง สำหรับระบบทั้งหมด 12 exaFLOPS
เฟลด์แมนกล่าวว่าข้อดีที่สำคัญประการหนึ่งของเครื่องจักรอย่าง Condor Galaxy ทั้ง 1 และ 2 ก็คือวิศวกรรมของระบบ เขาบอกกับ ZDNET ว่าการรวมชิป GPU จำนวนเท่ากันเข้าด้วยกันเป็นเรื่องยากอย่างไม่น่าเชื่อ “จำนวนคนที่สามารถสร้างเครือข่าย GPU ได้นับพันนั้นมีน้อยมาก” เฟลด์แมนกล่าว “อาจจะเป็น 25 บริษัท”
“เป็นเรื่องยากมากที่จะใช้คอมพิวเตอร์แบบกระจายจำนวนมากอย่างมีประสิทธิภาพ มันเป็นปัญหาที่ยากมาก” เฟลด์แมนกล่าว “นั่นเป็นหนึ่งในปัญหาที่เราแก้ไขโดยพื้นฐาน”
คอมพิวเตอร์ CS-2 ทุกเครื่องใน Condor Galaxy 1 และ 2 มีชิป AI ใหม่ของ Cerebras ซึ่งก็คือ "Wafer-Scale-Engine" หรือ WSE ชิปที่ใหญ่ที่สุดในโลก แต่ละตัวมี "คอร์" 850,000 ตัวเพื่อประมวลผลคำสั่ง AI แบบขนาน ทำให้เทียบเท่ากับชิป GPU หลายตัว
นอกจากนี้ คอมพิวเตอร์ CS-2 ยังเสริมด้วยสวิตช์ "แฟบริค" วัตถุประสงค์พิเศษของ Cerebras อย่าง Swarm-X และฮับหน่วยความจำเฉพาะอย่าง Memory-X ซึ่งใช้ในการรวมกลุ่ม CS-2 เข้าด้วยกัน



