Nvidia เปิดตัว Hopper ผู้สืบทอด Ampere และ GPU H80 ทรานซิสเตอร์ 100 พันล้านตัว

ปริมาณงานจํานวนมากที่ก่อนหน้านี้ใช้เวลาหนึ่งสัปดาห์ในการฝึกบน A100 จะใช้เวลาเพียง 20 ชั่วโมงเท่านั้น

Nvidia ได้ประกาศสถาปัตยกรรมใหม่สําหรับปริมาณงาน AI ของศูนย์ข้อมูลเพื่อประสบความสําเร็จ Ampere เรียกว่า Hopper ตามชื่อ Grace Hopper ผู้บุกเบิกด้านคอมพิวเตอร์

ผลิตภัณฑ์แรกที่ใช้ Hopper จะเป็น H100 ซึ่งมีทรานซิสเตอร์ 80 พันล้านตัว สร้างขึ้นจากกระบวนการ 4N ของ TSMC และให้ประสิทธิภาพมากกว่า A100 ที่ใช้แอมแปร์สามถึงหกเท่า GPU จะรองรับ PCIe Gen5 หน่วยความจํา NVLink HBM3 รุ่นที่สี่ และมีแบนด์วิดท์หน่วยความจํา 3Tbps

"GPU H100 ยี่สิบตัวสามารถรักษาปริมาณการรับส่งข้อมูลทางอินเทอร์เน็ตได้เทียบเท่าทั่วโลก ทําให้ลูกค้าสามารถส่งมอบระบบแนะนําขั้นสูงและโมเดลภาษาขนาดใหญ่ที่เรียกใช้การอนุมานข้อมูลแบบเรียลไทม์" Nvidia กล่าว

GPU จะมีเทคโนโลยีหลายอินสแตนซ์รุ่นที่สอง และสามารถรองรับเต็นท์เจ็ดเต็นท์บน GPU ตัวเดียว บริษัทยังกล่าวด้วยว่าจะสามารถทําได้อย่างปลอดภัยด้วยการสนับสนุนการประมวลผลที่เป็นความลับ

"Hopper นําการประมวลผลที่เป็นความลับมาสู่การประมวลผลแบบเร่งโดยใช้ฮาร์ดแวร์และซอฟต์แวร์ร่วมกัน เมื่อเปิดใช้งานการประมวลผลที่เป็นความลับหรือสภาพแวดล้อมการดําเนินการที่เชื่อถือได้ถูกสร้างขึ้นผ่านเครื่องเสมือนที่เป็นความลับซึ่งครอบคลุมทั้ง CPU และ GPU เข้าด้วยกันการถ่ายโอนข้อมูลระหว่าง CPU ไปยัง GPU และ GPU ไปยัง GPU ในโหนดจะถูกเข้ารหัสและถอดรหัสที่อัตราสาย PCIe เต็มรูปแบบ" Paresh Kharya ผู้อํานวยการอาวุโสด้านการประมวลผลศูนย์ข้อมูลของ Nvidia กล่าว

"H100 ยังมีไฟร์วอลล์ฮาร์ดแวร์ที่รักษาความปลอดภัยปริมาณงานทั้งหมดบน H100 GPU และยังแยกระหว่างหน่วยความจําและกลไกคอมพิวเตอร์ เพื่อไม่ให้ใครอื่นนอกจากเจ้าของสภาพแวดล้อมการดําเนินการที่เชื่อถือได้ด้วยคีย์สามารถสัมผัสข้อมูลใด ๆ ที่เข้ารหัสภายในได้

"การออกแบบนี้รับประกันการแยก VM ทั้งหมด และป้องกันการเข้าถึงหรือดัดแปลงโดยหน่วยงานที่ไม่ได้รับอนุญาต รวมถึงไฮเปอร์ไวเซอร์ ระบบปฏิบัติการโฮสต์ หรือแม้แต่ใครก็ตามที่มีสิทธิ์เข้าถึงทางกายภาพ"

Nvidia กล่าวว่า H100 สามารถรองรับโมเดลสัตว์ประหลาด 105 ชั้น 530 พันล้านพารามิเตอร์ Megatron-Turing 530B ด้วยปริมาณงานที่สูงขึ้นถึง 30 เท่า เมื่อฝึกโมเดล Mixture of Experts Transformer ด้วยพารามิเตอร์ 395 พันล้านตัวบน GPU 8,000 ตัว Nvidia กล่าวว่าแทนที่จะใช้เวลาเจ็ดวันโดยใช้ A100 การฝึกอบรมบน H100 ใช้เวลาเพียง 20 ชั่วโมง

บริษัทจะรวม GPU H100 8 ตัวเข้าด้วยกันสําหรับระบบ DGX H100 ซึ่งจะส่งมอบ 32 petaflops บนเวิร์กโหลด FP8 และ DGX Superpod ใหม่จะเชื่อมโยงโหนด DGX H32 ได้มากถึง 100 โหนดด้วยสวิตช์ที่ใช้ NVLink รุ่นที่สี่ที่มีความสามารถ 900GBps

สําหรับผู้ที่มีงบประมาณเพียงเล็กน้อย GPU จะถูกตั้งค่าให้พร้อมใช้งานจากผู้ต้องสงสัยบนคลาวด์ตามปกติ

ความพร้อมใช้งานสําหรับ H100 จะเริ่มในไตรมาสที่สาม

นอกจาก H100 แล้ว Nvidia ยังเปิดตัว Grace Superchip โดยใช้ชิป Grace คู่หนึ่งที่เชื่อมต่อโดยใช้ NVLink-C2C สําหรับการเชื่อมต่อระหว่างชิปกับชิป ซูเปอร์ชิปมีคอร์ Arm 144 คอร์ในซ็อกเก็ตเดียว หน่วยความจํา LPDDR5x พร้อม ECC และใช้พลังงาน 500 วัตต์

ทั้ง Grace Superchip และการจับคู่ CPU และ GPU ใน Grace Hopper Superchip ที่ประกาศเมื่อปีที่แล้ว จะวางจําหน่ายในช่วงครึ่งแรกของปี 2023

ที่อื่นที่ GTC Nvidia ประกาศว่าระบบยานยนต์ Drive Hyperion 9 จะพร้อมใช้งานในรถยนต์ที่ผลิตในปี 2026 และประกอบด้วยกล้อง 14 ตัว เรดาร์ 9 ตัว LIDAR 3 ตัว และเซ็นเซอร์อัลตราโซนิก 20 ตัวสําหรับการขับขี่อัตโนมัติและอัตโนมัติ และกล้อง 3 ตัวและเรดาร์ 1 ตัวสําหรับมองภายในรถ

ความคุ้มครองที่เกี่ยวข้อง

• ความฝันของ Nvidia ในการเป็นเจ้าของ Arm สิ้นสุดลงอย่างเป็นทางการแล้ว
• NVIDIA กําลังตรวจสอบเหตุการณ์ความปลอดภัยทางไซเบอร์
• FTC: การสิ้นสุดการควบรวมกิจการ Nvidia-Arm 'ปกป้องนวัตกรรมในอนาคต'
• เหตุใดการยกเลิกข้อตกลง Nvidia+Arm จึงส่งผลเสียต่ออุตสาหกรรมในที่สุด
• Nvidia รายงานรายได้ 7.6 พันล้านดอลลาร์ในไตรมาสที่ 4 หลังจากข้อตกลง Arm ล่มสลาย