แล็ปท็อป Dell ที่ดีที่สุดของปี 2025: ผู้เชี่ยวชาญทดสอบและตรวจสอบ
ประเด็นสําคัญ GTC ของ Nvidia ยังรวมถึงการอภิปรายเกี่ยวกับแพลตฟอร์มคอมพิวเตอร์ใหม่สําหรับการดูแลสุขภาพหุ่นยนต์ระบบอัตโนมัติทางอุตสาหกรรมและแอปพลิเคชันยานยนต์และบริการโฮสต์ที่หลากหลาย
Jensen Huang ผู้ร่วมก่อตั้งและซีอีโอของ Nvidia ได้เปิดการประชุม GTC ฤดูใบไม้ร่วงของบริษัทโดยประกาศความพร้อมใช้งานทั่วไปในเดือนหน้าของ GPU "Hopper" ใหม่ของบริษัทในระบบจาก Dell และอื่น ๆ ประเด็นสําคัญยังนําเสนอคอมพิวเตอร์สําหรับการดูแลสุขภาพ หุ่นยนต์ ระบบอัตโนมัติทางอุตสาหกรรม และการใช้งานยานยนต์ ตลอดจนบริการคลาวด์หลายอย่าง รวมถึงบริการคลาวด์ที่โฮสต์โดย Nvidia สําหรับโมเดลภาษาการเรียนรู้เชิงลึก เช่น GPT-3
Jensen Huang ซีอีโอของ Nvidia เมื่อวันอังคารเปิดการประชุม GTC ฤดูใบไม้ร่วงของบริษัทโดยประกาศว่าหน่วยประมวลผลกราฟิก (GPU) "Hopper" ของบริษัทอยู่ในการผลิตในปริมาณมาก และจะเริ่มจัดส่งในระบบโดยพันธมิตร เช่น Dell, Hewlett Packard และ Cisco Systems ในเดือนหน้า ระบบ Nvidia ที่มี GPU จะวางจําหน่ายในไตรมาสแรกของปีหน้า Huang ประกาศ
ชิป Hopper หรือที่เรียกว่า "H100" มุ่งเป้าไปที่งานสําหรับศูนย์ข้อมูล เช่น ปัญญาประดิษฐ์ Nvidia กล่าวว่า H100 สามารถลดต้นทุนในการปรับใช้โปรแกรม AI ได้ "อย่างมาก" ตัวอย่างเช่น การทํางานของ GPU ระดับแนวหน้าก่อนหน้านี้ 320 ตัว A100 สามารถทําได้ด้วยชิป H64 เพียง 100 ตัว ซึ่งต้องใช้คอมพิวเตอร์เซิร์ฟเวอร์เพียงหนึ่งในห้า และจะลดการใช้พลังงานลง 3.5 เท่า
Hopper เปิดตัวครั้งแรกในเดือนมีนาคมโดย Nvidia บริษัทแสดงคะแนนเกณฑ์มาตรฐานสําหรับชิปในเดือนนี้ในชุดงานแมชชีนเลิร์นนิง MLPerf
นอกเหนือจากความพร้อมใช้งานของ Hopper แล้ว Huang ยังกล่าวถึงข้อเสนอระบบคลาวด์ "as-a-service" ใหม่ Nvidia NeMo LLM สําหรับ "โมเดลภาษาขนาดใหญ่" ที่เสนอเพื่อให้ลูกค้าสามารถปรับใช้โมเดลการประมวลผลภาษาธรรมชาติขนาดใหญ่มากได้อย่างง่ายดาย เช่น GPT-3 ของ OpenAI และ Megatron-Turing NLG 530B ซึ่งเป็นโมเดลภาษาที่ Nvidia ได้พัฒนาร่วมกับ Microsoft
บริการ NeMo ให้บริการในรูปแบบ "การเข้าถึงล่วงหน้า" ตั้งแต่เดือนหน้า ให้บริการ GPT-3 และโมเดลอื่นๆ ในรูปแบบที่ผ่านการฝึกอบรมล่วงหน้า และนักพัฒนาสามารถปรับแต่งได้โดยใช้วิธีการที่ Nvidia เรียกว่า "การเรียนรู้ที่รวดเร็ว" ซึ่ง Nvidia ดัดแปลงจากเทคนิคที่นักวิทยาศาสตร์ที่ Google เปิดตัวเมื่อปีที่แล้ว
NeMo เวอร์ชันหนึ่งจะถูกโฮสต์โดยเฉพาะอย่างยิ่งสําหรับการใช้งานทางชีวการแพทย์ของโมเดลภาษาขนาดใหญ่ เช่น การค้นพบยาที่เรียกว่า NVIDIA BioNeMo Service
Nvidia กล่าวว่า Hopper GPU สามารถลดโหนดคอมพิวเตอร์ที่จําเป็นในการเรียกใช้งาน AI ขนาดใหญ่ได้สี่ในห้าเมื่อเทียบกับ GPU ศูนย์ข้อมูลรุ่นก่อน A100
ในระหว่างการแถลงข่าวเกี่ยวกับการประกาศ ZDNet ได้ถาม Ian Buck หัวหน้าฝ่ายประมวลผลแบบเร่งความเร็วของ Nvidia ว่าบริษัทจะจัดตั้งรั้วป้องกันอะไรเพื่อป้องกันการใช้โมเดลภาษาขนาดใหญ่ในทางที่ผิดซึ่งได้รับการบันทึกไว้อย่างดีในวรรณกรรมเกี่ยวกับจริยธรรมของ AI
"ใช่ คําถามที่ดี บริการนี้จะเข้าสู่ EA [Early Access] ตั้งแต่เดือนหน้า และส่งตรงไปยังองค์กร และเรากําลังทําสิ่งนี้เพื่อมีส่วนร่วมกับองค์กรต่างๆ บริษัทต่างๆ เพื่อพัฒนาเวิร์กโฟลว์ของพวกเขา" Buck กล่าว
เพิ่มบัค
เห็นได้ชัดว่าพวกเขาจะทําอะไรก็ได้ร่วมกับ Nvidia และผู้ใช้แต่ละคนจะสมัครเพื่อเข้าถึงบริการ ดังนั้น เราจะเข้าใจมากขึ้นเล็กน้อยเกี่ยวกับสิ่งที่พวกเขากําลังทําเมื่อเทียบกับข้อเสนอแบบเปิดทั่วไปในลักษณะนั้น เรากําลังพยายามมุ่งเน้นไปที่การนําโมเดลภาษาขนาดใหญ่มาสู่องค์กรต่างๆ และนั่นคือการเข้าสู่ตลาดของลูกค้าของเรา
ZDNet ตามมาด้วยการตั้งข้อสังเกตให้ Buck ทราบว่าการละเมิดในวรรณกรรมเกี่ยวกับแบบจําลองภาษาขนาดใหญ่รวมถึงอคติที่ฝังอยู่ในข้อมูลการฝึกอบรม ซึ่งไม่จําเป็นต้องเป็นอันตราย
"เป็นข้อโต้แย้งของคุณหรือไม่ว่าหากการเข้าถึงพันธมิตรองค์กรมีจํากัด จะไม่มีการละเมิดที่เป็นเอกสารเช่นอคติในสื่อการฝึกอบรมและผลิตภัณฑ์ที่ส่งออก" ZDNet ถาม
ตอบ Buck
ใช่ ฉันหมายถึง ลูกค้าจะนําชุดข้อมูลของตนเองมาสู่การฝึกอบรมโดเมน ดังนั้นแน่นอนว่าพวกเขาต้องแบกรับความรับผิดชอบบางอย่าง และเราทุกคนในฐานะชุมชนจําเป็นต้องรับผิดชอบ สิ่งนี้ได้รับการฝึกอบรมบนอินเทอร์เน็ต จําเป็นต้องเข้าใจและกําหนดขอบเขตสําหรับสิ่งที่เป็นอยู่ตอนนี้สําหรับโซลูชันเฉพาะโดเมน ปัญหามีข้อจํากัดมากขึ้นเล็กน้อยเนื่องจากเรากําลังพยายามให้บริการเฉพาะกรณีการใช้งานเฉพาะ อคตินั้นจะมีอยู่ มนุษย์มีอคติ และน่าเสียดายที่สิ่งนี้ได้รับการฝึกฝนจากข้อมูลของมนุษย์
การนําเสนอยังรวมถึงแพลตฟอร์มคอมพิวเตอร์เฉพาะสําหรับอุตสาหกรรมต่างๆ รวมถึงการดูแลสุขภาพ และสําหรับ OmniVerse ซึ่งเป็นแพลตฟอร์มซอฟต์แวร์ของ Nvidia สําหรับ Metaverse
แพลตฟอร์มดังกล่าวรวมถึง IGX สําหรับการใช้งานด้านการดูแลสุขภาพ IGX สําหรับโรงงาน ระบบคอมพิวเตอร์ OVX เวอร์ชันใหม่สําหรับการพัฒนา OmniVerse และแพลตฟอร์มคอมพิวเตอร์ DRIVE เวอร์ชันใหม่ของ Nvidia สําหรับรถยนต์ที่เรียกว่า DRIVE Thor ซึ่งจะรวม Hopper GPU เข้ากับ CPU ที่กําลังจะมาถึงของ Nvidia "Grace"

