ค้นหาเว็บไซต์

3 ความเร่งรีบด้านข้างที่ร่ํารวยที่คุณสามารถเริ่มต้นได้ทันทีด้วยโปรแกรมสร้างวิดีโอ Sora ของ OpenAI


บริการคลาวด์แบบจ่ายต่อการใช้งานสัญญาว่าจะลดค่าใช้จ่ายในการฝึกอบรม GPT-3 และโมเดลที่คล้ายกันลงครึ่งหนึ่งในขณะที่เร่งเวลาการฝึกอบรมถึงแปดเท่า

Cerebras กล่าวว่าการเป็นพันธมิตรกับ Cirrascale จะช่วยให้นักวิจัยเข้าถึงคลัสเตอร์ของเครื่อง AI ในราคาที่ต่ํากว่าต้นทุนของสัญญาเช่าหลายปีทั่วไป ดูที่นี่ ธนาคาร Cerebras ชั้นวางสําหรับคอมพิวเตอร์ AI เฉพาะ CS2

ผู้ผลิตคอมพิวเตอร์ปัญญาประดิษฐ์ Cerebras Systems ซึ่งได้สร้างชิปและคอมพิวเตอร์ และตอนนี้ผลิต ซูเปอร์คอมพิวเตอร์ที่ทุ่มเทให้กับการเร่งการเรียนรู้เชิงลึก

"เราเชื่อว่าโมเดลภาษาขนาดใหญ่นั้นโฆษณาน้อยเกินไป ไม่ใช่โฆษณามากเกินไป" Andrew Feldman ผู้ร่วมก่อตั้งและซีอีโอของ Cerebras กล่าวในการแถลงข่าว "เราเพิ่งเริ่มเห็นผลกระทบของพวกเขา จะมีผู้ชนะและผู้เกิดขึ้นใหม่ในแต่ละชั้นสามชั้นในระบบนิเวศ ในชั้นฮาร์ดแวร์ ชั้นโครงสร้างพื้นฐาน และชั้นแอปพลิเคชัน"

Feldman คาดการณ์ว่า "ปีหน้าคุณจะเห็นผลกระทบของโมเดลภาษาขนาดใหญ่ที่เพิ่มขึ้นอย่างกว้างขวางในส่วนต่างๆ ของเศรษฐกิจ" 

การร่วมมือกับผู้ให้บริการคลาวด์คอมพิวติ้ง Cirrascale Cerebras นําเสนอสิ่งที่เรียกว่าเวลาประมวลผลแบบ "จ่ายต่อโมเดล" ซึ่งเป็นอัตราคงที่ในการฝึกอบรมเพื่อบรรจบกันโมเดลภาษาขนาดใหญ่ เช่น GPT-3 ของ OpenAI บนคลัสเตอร์ของคอมพิวเตอร์ CS2 ที่ออกแบบมาสําหรับการเรียนรู้ เชิงลึก

บริการนี้มีชื่อว่า Cerebras AI Model Studio 

ราคาตั้งแต่ 2,500 ดอลลาร์เพื่อฝึกโมเดล GPT-3 ที่มีพารามิเตอร์ 1.3 พันล้านตัวใน 10 ชั่วโมง ไปจนถึง 2.5 ล้านดอลลาร์ในการฝึกเวอร์ชัน 70 พันล้านพารามิเตอร์ใน 85 วัน โดยเฉลี่ยแล้วครึ่งหนึ่งของค่าใช้จ่ายที่ผู้ใช้จะจ่ายเพื่อเช่าความจุของระบบคลาวด์หรือเช่าเครื่องเป็นเวลาหลายปีเพื่อทํางานที่เทียบเท่า และคลัสเตอร์ CS2 สามารถฝึกได้เร็วกว่าคลัสเตอร์ของเครื่อง Nvidia A100 ในระบบคลาวด์ ถึงแปดเท่า

Cirrascale ใช้การผสมผสานระหว่างคลัสเตอร์ของ CS2 และเครื่องจักรที่ Cerebras เป็นเจ้าของ รวมถึงซูเปอร์คอมพิวเตอร์ Andromeda ซึ่งตั้งอยู่ที่โรงงานโคโลเคชั่นของซานตาคลารา

ตารางราคาของ Cerebras ร่วมกับ Cirrascale สัญญาว่าจะเป็นต้นทุนเฉลี่ยครึ่งหนึ่งของบริการคลาวด์หรือคลัสเตอร์เฉพาะทางเพื่อฝึกโมเดลขนาดใหญ่ 

ความร่วมมือสําหรับ Studio เป็นไปตามความร่วมมือระหว่าง Cerebras และ Cirrascale ที่ประกาศเมื่อปีที่แล้วเพื่อนําเสนอเครื่อง CS2 ในระบบคลาวด์เป็นประจําทุกสัปดาห์ 

บริการจะปรับขนาดของคลัสเตอร์โดยอัตโนมัติขึ้นอยู่กับขนาดของโมเดลภาษา Feldman กล่าว บริษัทเน้นย้ําว่าประสิทธิภาพการฝึกอบรมจะดีขึ้นในสัดส่วนเชิงเส้นเพื่อเพิ่มเครื่องจักรมากขึ้น

การปรับขนาดไปยังคลัสเตอร์ที่ใหญ่ที่สุดจะทําให้ราคาสูงขึ้นเป็นพรีเมี่ยม Feldman กล่าว ตัวอย่างเช่น คลัสเตอร์ 16 เครื่องของ Andromeda มีขนาดใหญ่กว่าคลัสเตอร์ CS2 สี่ทางถึงสี่เท่า แต่การใช้คลัสเตอร์นี้จะทําให้ลูกค้าเสียเงินมากถึงห้าเท่า เนื่องจากประสิทธิภาพในระดับที่สูงขึ้น

ประโยชน์เร่งด่วนที่สําคัญที่สุดของการลดต้นทุนการฝึกอบรมโมเดลขนาดใหญ่อาจเป็นการให้การเข้าถึงการพัฒนาโมเดลขนาดใหญ่แก่ฝ่ายที่ไม่สามารถจ่ายค่าเช่าจํานวนมหาศาลได้ตามที่มักจําเป็น Feldman กล่าว

"เราได้เห็นครั้งแล้วครั้งเล่าว่าการรู้ราคาล่วงหน้าและเวลาที่ใช้เป็นปัญหาที่แท้จริงสําหรับลูกค้าทั้งกลุ่ม และเราหวังว่าจะเอาชนะปัญหาเหล่านั้นได้" 

Feldman กล่าวว่าอีกทางเลือกหนึ่งคือให้บริษัทต่างๆ ใช้จ่ายอย่างกว้างขวางเพื่อเช่าฮาร์ดแวร์เป็นเวลาหลายปีในแต่ละครั้ง

"หากคุณนึกถึงวิธีการฝึกอบรมโมเดลที่ใหญ่ที่สุดในปัจจุบัน และพวกเขาทั้งหมดอยู่ในคลัสเตอร์เฉพาะที่อยู่ในสัญญาเช่าหลายปี" Feldman กล่าว "ตอนนี้มีบริษัทที่ระดมเงินมหาศาลและมีการประเมินมูลค่ามหาศาลซึ่งในความฝันที่บ้าคลั่งที่สุดของพวกเขาไม่เคยเป็นเจ้าของฮาร์ดแวร์" 

นอกจากนี้ในวันอังคาร Cerebras ได้ประกาศว่าซูเปอร์คอมพิวเตอร์ Andromeda ซึ่งเปิดตัวเมื่อต้นเดือนนี้ ซึ่งเป็นกลุ่มเครื่อง CS16 จํานวน 2 เครื่อง จะถูกใช้โดย Jasper ซึ่งเป็นสตาร์ทอัพที่ได้รับการสนับสนุนจากการลงทุนซึ่งเรียกใช้โมเดลภาษาขนาดใหญ่เป็นบริการสําหรับแอปพลิเคชันทางธุรกิจ เช่น การสร้างข่าวประชาสัมพันธ์และบล็อกโพสต์

Jasper ซึ่งมีลูกค้าที่ชําระเงินเกือบแสนรายสําหรับฟังก์ชันข้อความกําเนิดให้บริการองค์กรที่ต้องการฝึกโมเดลภาษาขนาดใหญ่ด้วยข้อมูลลูกค้าเช่นฐานความรู้เฉพาะแคตตาล็อกผลิตภัณฑ์และ "เสียง" ขององค์กร 

"พวกเขาต้องการโมเดลส่วนบุคคล และพวกเขาต้องการมันอย่างมาก" Dave Rogenmoser ซีอีโอของ Jasper กล่าวในการแถลงข่าวเดียวกัน เขากล่าวว่าแนวคิดคือการให้แผนกการตลาด "ทุกคนพูดด้วยเสียงเดียวกัน" และเพื่อให้พนักงานใหม่ต้อง "เร่งความเร็วให้ทุกคนพูดด้วยเสียงเดียวกัน" เช่นเดียวกับคนอื่นๆ ในบริษัท ซึ่งรวมถึงสิ่งต่างๆ เช่น โมเดลที่สร้างโฆษณาบน Facebook โดยใช้ภาษาตาม ธรรมเนียมของลูกค้า

ความสามารถในการลดต้นทุนการฝึกอบรมและเร่งเวลาการฝึกอบรมของโมเดลภาษาขนาดใหญ่อย่างมาก "เป็นสิ่งที่ดึงดูดเราอย่างมาก" ในการทํางานกับ Cerebras Rogenmoser กล่าว

Jasper เพิ่งปิดรอบ Series A โดยประเมินมูลค่าบริษัทที่ 1.5 พันล้านดอลลาร์ Rogenmoser กล่าว

การใช้คลัสเตอร์เฉพาะไม่เพียงแต่เร็วขึ้นและถูกกว่า แต่ยังมีความแตกต่างมากขึ้น Andy Hock หัวหน้าฝ่ายผลิตภัณฑ์ของ Cerebras กล่าวในการแถลงข่าว เดียวกัน

"สิ่งหนึ่งที่เราสังเกตเห็นในวงกว้างในตลาดคือหลายบริษัทต้องการที่จะสามารถวิจัยและพัฒนาโมเดลขนาดใหญ่เหล่านี้ได้อย่างรวดเร็ว แต่โครงสร้างพื้นฐานที่มีอยู่ในระบบคลาวด์แบบดั้งเดิมไม่ได้ทําให้การวิจัยและพัฒนาขนาดใหญ่ประเภทนี้เป็นเรื่องง่าย" Hock กล่าว

"ความสามารถในการถามคําถาม เช่น ฉันควรฝึกตั้งแต่เริ่มต้น [โมเดลภาษาขนาดใหญ่] หรือฉันควรปรับแต่งจุดตรวจสอบสาธารณะแบบโอเพ่นซอร์ส คําตอบที่ดีที่สุด อะไรคือการใช้การประมวลผลที่มีประสิทธิภาพมากที่สุดเพื่อลดต้นทุนของสินค้าเพื่อส่งมอบบริการที่ดีที่สุดให้กับลูกค้าของฉัน

เขากล่าวว่า คลัสเตอร์ Cerebras ช่วยให้ Jasper และคนอื่นๆ สามารถถามคําถามเหล่านั้นได้

การประกาศทั้งสองครั้งมีขึ้นในโอกาสการประชุมระบบสารสนเทศประสาทประจําปีครั้งที่ 36 หรือ NeurIPS ซึ่งเป็นการประชุมรอบปฐมทัศน์ของสาขา AI ซึ่งจัดขึ้นในสัปดาห์นี้ในนิวออร์ลีนส์ 

บทความที่เกี่ยวข้อง