ความก้าวหน้าทางควอนตัมของ Google นั้น 'น่าทึ่งอย่างแท้จริง' แต่ยังมีอะไรให้ทำอีกมาก

การประมวลผล AI จะยังคงทะยานต่อไปด้วยการอนุมาน โดยต้องมีศูนย์ข้อมูล AI ขนาดหลายกิกะวัตต์ใหม่ทั้งหมด

Thomas Graham (ขวา) ผู้ร่วมก่อตั้งบริษัทสตาร์ทอัพชิป Lightmatter บอกกับ Mandeep Singh จาก Bloomberg Intelligence ว่าศูนย์ข้อมูลที่เทียบเท่ากับการใช้พลังงานของนิวยอร์กซิตี้ถึง 8 เท่า จะอยู่ระหว่างการก่อสร้างในปี 2569 เพื่อรองรับการใช้งาน AI

Nvidia และพันธมิตรและลูกค้าได้สร้างสิ่งอำนวยความสะดวกด้านคอมพิวเตอร์ขนาดใหญ่ขึ้นเรื่อยๆ ทั่วโลก เพื่อรองรับความต้องการด้านการประมวลผลที่เข้มข้นของการฝึกอบรมโปรแกรมปัญญาประดิษฐ์ (AI) ขนาดยักษ์ เช่น GPT-4 ความพยายามดังกล่าวจะได้รับความสำคัญอย่างต่อเนื่องเมื่อมีการนำโมเดล AI เข้าสู่การผลิตมากขึ้น สตาร์ทอัพรายหนึ่งที่ให้บริการแก่ยักษ์ใหญ่ด้านเทคโนโลยีกล่าว

Thomas Graham ผู้ร่วมก่อตั้งบริษัทสตาร์ทอัพด้านการประมวลผลแบบออปติคอล Lightmatter กล่าวระหว่างการสัมภาษณ์เมื่อสัปดาห์ที่แล้วในนิวยอร์กกับ Mandeep Singh ว่า "ผู้คนจะต้องการการประมวลผลที่มากขึ้น ไม่ใช่เพราะกฎหมายปรับขนาด แต่เป็นเพราะคุณกำลังปรับใช้สิ่งเหล่านี้" นักวิเคราะห์เทคโนโลยีอาวุโสจาก Bloomberg Intelligence

Singh ถาม Graham ว่าโมเดลภาษาขนาดใหญ่ (LLM) เช่น GPT-4 จะยังคง "ขยายขนาด" ต่อไปหรือไม่ ซึ่งหมายถึงขยายขนาดขึ้นเมื่อ OpenAI และบริษัทอื่นๆ พยายามบรรลุโมเดลที่มีความทะเยอทะยานมากขึ้น

Graham หันคำถามกลับ โดยบอกว่าขั้นตอนต่อไปของความอยากในการคำนวณของ AI คือการนำโครงข่ายประสาทเทียมที่ได้รับการฝึกมาสู่การผลิต

“หากคุณมองว่าการฝึกอบรมเป็นการวิจัยและพัฒนา การอนุมานถือเป็นการใช้งานจริงๆ และในขณะที่คุณกำลังปรับใช้ คุณจะต้องใช้คอมพิวเตอร์ขนาดใหญ่เพื่อรันโมเดลของคุณ” Graham กล่าว การอภิปรายนี้เป็นส่วนหนึ่งของการประชุมตลอดทั้งวันซึ่งจัดโดย Bloomberg Intelligence ที่เรียกว่า "Gen AI: สามารถส่งมอบตามสัญญาด้านการผลิตได้หรือไม่"

มุมมองของ Graham สะท้อนถึง CEO ของ Nvidia Jensen Huang ผู้ซึ่งบอกกับ Wall Street ในช่วงไม่กี่เดือนที่ผ่านมาว่า "การขยายขนาด" รูปแบบ "ตัวแทน" ของ AI จะต้องอาศัย "ทั้งการฝึกอบรมที่ซับซ้อนมากขึ้น [ของโมเดล AI] แต่ยังมีการอนุมานที่ซับซ้อนมากขึ้นอีกด้วย " และด้วยเหตุนี้ "การคำนวณอนุมานจึงขยายขนาดแบบทวีคูณ"

“หากคุณมองว่าการฝึกอบรมเป็นการวิจัยและพัฒนา การอนุมานถือเป็นการใช้งานจริงๆ และในขณะที่คุณกำลังปรับใช้ คุณจะต้องใช้คอมพิวเตอร์ขนาดใหญ่เพื่อรันโมเดลของคุณ” Graham กล่าว

Lightmatter ซึ่งก่อตั้งขึ้นในปี 2561 กำลังพัฒนาเทคโนโลยีชิปที่สามารถรวมโปรเซสเซอร์หลายตัวเข้าด้วยกันบนดายเซมิคอนดักเตอร์ตัวเดียวโดยใช้การเชื่อมต่อแบบออปติก ซึ่งสามารถแทนที่การเชื่อมโยงเครือข่ายแบบเดิมระหว่างชิปหลายสิบ ร้อย หรือแม้แต่หลายพันชิปที่จำเป็นในการสร้างศูนย์ข้อมูล AI การเชื่อมต่อระหว่างกันแบบออปติก ดังที่เรียกกันว่า สามารถย้ายข้อมูลได้เร็วกว่าสายทองแดงโดยใช้พลังงานเพียงเล็กน้อย

เทคโนโลยีนี้สามารถนำไปใช้ระหว่างคอมพิวเตอร์ในชั้นวางศูนย์ข้อมูลและระหว่างชั้นวางเพื่อลดความซับซ้อนของเครือข่ายคอมพิวเตอร์ ทำให้ศูนย์ข้อมูลทั้งหมดประหยัดมากขึ้น Graham กล่าวกับ Singh

"ดังนั้น การกำจัดรอยทองแดงที่คุณมีในศูนย์ข้อมูลออกไปจริงๆ ทั้งในเซิร์ฟเวอร์บนแผงวงจรเครื่องพิมพ์และในสายเคเบิลระหว่างชั้นวาง หรือแทนที่ทั้งหมดด้วยไฟเบอร์ ทั้งหมดด้วยออปติก ซึ่งช่วยเพิ่มแบนด์วิธของคุณได้อย่างมาก ได้” เกรแฮมกล่าว

Lightmatter กำลังทำงานร่วมกับบริษัทเทคโนโลยีหลายแห่งในการวางแผนสร้างศูนย์ข้อมูลใหม่ Graham กล่าว “ศูนย์ข้อมูลกำลังถูกสร้างขึ้นตั้งแต่เริ่มต้น” เขากล่าว Lightmatter ได้ประกาศความร่วมมือกับ Global Foundries ผู้ผลิตเซมิคอนดักเตอร์ตามสัญญา ซึ่งมีโรงงานในตอนเหนือของรัฐนิวยอร์ก และให้บริการแก่ผู้ผลิตชิปหลายราย รวมถึง Advanced Micro Devices

นอกเหนือจากความร่วมมือดังกล่าว Graham ปฏิเสธที่จะระบุชื่อพันธมิตรและลูกค้า ความหมายโดยนัยของการพูดคุยของเขาคือการที่บริษัทของเขาร่วมมือกับผู้ให้บริการซิลิคอน เช่น Broadcom หรือ Marvell เพื่อสร้างชิ้นส่วนบูรณาการแบบกำหนดเองสำหรับยักษ์ใหญ่ด้านเทคโนโลยีที่ออกแบบโปรเซสเซอร์ของตนเองสำหรับศูนย์ข้อมูลของตน เช่น Google, Amazon และ Microsoft

เพื่อให้เข้าใจถึงขนาดของการใช้งาน Graham ชี้ให้เห็นว่ามีศูนย์ข้อมูล AI แห่งใหม่อย่างน้อยหลายสิบแห่งที่วางแผนหรือกำลังก่อสร้างอยู่ในขณะนี้ ซึ่งต้องใช้พลังงานหนึ่งกิกะวัตต์ในการทำงาน

"ตามบริบทแล้ว เมืองนิวยอร์กดึงพลังงานได้ 5 กิกะวัตต์ในแต่ละวันโดยเฉลี่ย ดังนั้น NYC หลายแห่ง" เขากล่าวว่าภายในปี 2569 คาดว่าการประมวลผล AI ของโลกจะต้องใช้พลังงาน 40 กิกะวัตต์ "โดยเฉพาะสำหรับศูนย์ข้อมูล AI หรือแปดแห่งในนิวยอร์ค"

เมื่อเร็วๆ นี้ Lightmatter ได้รับการร่วมลงทุนจำนวน 400 ล้านดอลลาร์ และบริษัทมีมูลค่า 4.4 พันล้านดอลลาร์ Lightmatter ตั้งใจที่จะเริ่มการผลิต "ในอีกไม่กี่ปีข้างหน้า" Graham กล่าว

เมื่อ Singh ถามเขาว่าอะไรสามารถพลิกแผนของบริษัทได้ Graham แสดงความมั่นใจในความต้องการอย่างต่อเนื่องในการขยายโครงสร้างพื้นฐานการประมวลผล AI

“หากในอีกไม่กี่ปีข้างหน้า นักวิจัยจะคิดอัลกอริธึมใหม่ในการทำ AI ที่ต้องใช้การประมวลผลน้อยลง ซึ่งมีประสิทธิภาพมากกว่าที่เรามีในปัจจุบันมาก ซึ่งบรรลุ AGI [ปัญญาประดิษฐ์ทั่วไป] ได้เร็วกว่ามาก นั่นจะทำให้ลิงเหวี่ยง ไขข้อสันนิษฐานของทุกคนที่ต้องการลงทุนในการประมวลผลแบบเอ็กซ์โปเนนเชียลต่อไป” เขากล่าว