ต้องขอบคุณพีซีแบบ AI ที่ทำให้สเป็คสำหรับคอมพิวเตอร์ทั่วกระดานมีความพร้อมที่จะเพิ่มขึ้น

ประเด็นสำคัญ

• พีซีแบบ AI ต้องการหน่วยความจำและพื้นที่จัดเก็บข้อมูลจำนวนมากสำหรับการประมวลผลภายในเครื่อง
• คอมพิวเตอร์เครื่องใหม่ที่มี NPU เฉพาะทางมีความจำเป็นสำหรับฟีเจอร์ AI เช่น Copilot ของ Microsoft
• RAM ขนาด 16GB เป็นขั้นต่ำสำหรับพีซี AI โดยแนะนำให้ใช้ขนาด 32GB สำหรับผู้ที่สนใจคุณสมบัติ AI

ยุคของ "AI PC" มาถึงแล้ว และในไม่ช้า คุณจะมีตัวเลือกในการเรียกใช้ฟีเจอร์ AI บางอย่างในเครื่องโดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต แม้แต่ในระบบที่ค่อนข้างเรียบง่าย อย่างไรก็ตาม สิ่งที่คุณอาจไม่ทราบก็คือ แม้ว่าจะมีตัวเร่งความเร็ว AI แต่คอมพิวเตอร์เหล่านี้ยังคงต้องการหน่วยความจำและพื้นที่เก็บข้อมูลจำนวนมากเพื่อเสนอคุณสมบัติ AI ในพื้นที่

พีซี AI มีพลังสำหรับการประมวลผลภายในเครื่อง

คุณสมบัติ Copilot AI ของ Microsoft เป็นหนึ่งในเหตุผลหลักที่ทำให้คอมพิวเตอร์รุ่นใหม่ที่มี NPU เฉพาะทาง (หน่วยประมวลผลประสาท) กำลังออกสู่ตลาด นั่นเป็นเหตุผลหนึ่งว่าทำไมอุปกรณ์ Surface Pro ใหม่จึงมีโปรเซสเซอร์ ARM Snapdragon ที่มักพบในโทรศัพท์ ปัจจุบัน ข้อกำหนดขั้นต่ำสำหรับพีซี Copilot AI คือ NPU ที่มี 40 TOPS (ล้านล้านการดำเนินงานต่อวินาที) และนั่นคือสิ่งที่ชิปใหม่เหล่านี้บรรจุอยู่ภายใน

มีเหตุผลหลายประการที่ต้องการคุณสมบัติ AI ในพื้นที่ รวดเร็ว คุณไม่ต้องแข่งขันแย่งชิงทรัพยากรกับผู้ใช้รายอื่น และไม่ต้องเสียค่าใช้จ่ายเกินกว่าค่าฮาร์ดแวร์ การให้แล็ปท็อปของคุณมีความชาญฉลาดในบางสิ่งบางอย่างอย่างต่อเนื่องเช่นเดียวกับ ChatGPT และรุ่นเดียวกันนั้นน่าตื่นเต้นอย่างแน่นอน!

แม้แต่ LLM “เล็ก” ก็มีขนาดใหญ่มาก

ประเด็นก็คือ "โมเดล" AI เหล่านี้มีขนาดค่อนข้างใหญ่ LLM ที่เล็กที่สุดและมีประสิทธิภาพมากที่สุด (รุ่นภาษาขนาดใหญ่) อาจต้องใช้หน่วยความจำ 1-3GB แม้จะไม่ได้ฉลาดขนาดนั้นก็ตาม เมื่อโมเดลได้รับพารามิเตอร์และมีความสามารถมากขึ้น โมเดลก็ต้องการพื้นที่มากขึ้น LLM อัจฉริยะขั้นสูงที่คุณเข้าถึงผ่านทางเว็บอาจมี RAM หลายร้อยกิกะไบต์เมื่อพิจารณาถึงขนาดโมเดล ด้วยค่าพารามิเตอร์หลายร้อยพันล้าน หรือแม้แต่มากกว่าล้านล้านในบางกรณี โมเดล AI เหล่านี้จึงไม่เหมาะกับแล็ปท็อปตัวเล็ก ๆ ที่กระท่อนกระแท่น!

จากนั้น เราก็มี LLM ที่เล็กพอที่จะทำงานบนสมาร์ทโฟน เช่น phi-3-mini ซึ่งมีนาฬิกาอยู่ที่ 2.4GB นั่นสอดคล้องกับสิ่งที่จะเกิดขึ้นจริงบนแล็ปท็อป AI เหล่านี้มากกว่า แม้ว่าอาจจะไม่เป็นโรคโลหิตจางก็ตาม!

โมเดลต้องอยู่ใน RAM

แม้ว่าโมเดล AI จะใช้พื้นที่ไม่กี่ GB อาจฟังดูไม่ใช่เรื่องใหญ่ แต่คุณต้องเข้าใจว่าโมเดลทั้งหมดจะต้องอยู่ใน RAM เพื่อให้เทคโนโลยีทำงานได้อย่างมีประสิทธิภาพดี NPU เหล่านั้นเป็นโปรเซสเซอร์แบบขนานเฉพาะทาง ซึ่งทำลายตัวเลขบนโครงข่ายประสาทเทียมเสมือนเหล่านี้ ด้วย "พารามิเตอร์" นับพันล้านรายการในเวลาเดียวกัน

หากโมเดลไม่อยู่ใน RAM แสดงว่า NPU ไม่สามารถป้อนได้เร็วพอที่จะให้ผลลัพธ์เร็วพอ มันจะส่งผลต่อความเร็วในการตอบกลับของ LLM หรือฟังก์ชันต่างๆ เช่น การแปลแบบเรียลไทม์ หรือการสร้างภาพ ดังนั้น หากคุณต้องการให้ฟีเจอร์ AI ใช้งานได้เพียงกดปุ่มหรือเพียงแค่พูดกับคอมพิวเตอร์ โมเดลดังกล่าวจำเป็นต้องสำรอง RAM ให้มากเท่าที่ต้องการ

แน่นอนว่าพีซีรุ่นใหม่เหล่านี้ล้วนมี SSD ที่เร็วเป็นพิเศษซึ่งสามารถสลับข้อมูลเข้าและออกจาก RAM ได้อย่างรวดเร็ว แต่นอกเหนือจากการสึกหรอเพิ่มเติมที่เกิดขึ้นกับ SSD ของคุณแล้ว มันยังเร็วไม่พอสำหรับทุกอย่างที่จะทำงานได้อย่างราบรื่น และอย่าลืมว่าคุณยังคงต้องการเรียกใช้แอปอื่นๆ ทั้งหมดของคุณในเวลาเดียวกัน! หากพีซีของคุณจำเป็นต้องดัมพ์เบราว์เซอร์และแอปอื่นๆ จาก RAM ไปยังดิสก์ทุกครั้งที่คุณต้องการให้ AI ทำบางสิ่ง มันจะไม่ใช่ประสบการณ์ที่ยอดเยี่ยม

16GB เป็นขั้นต่ำที่แน่นอน

แม้ว่า RAM ขนาด 8GB ยังคงใช้ได้อย่างสมบูรณ์แบบสำหรับเดสก์ท็อปหรือแล็ปท็อปในสำนักงานยุคใหม่ที่ใช้เพื่อประสิทธิภาพการทำงานทั่วไปและการใช้สื่อ แต่คอมพิวเตอร์ Windows ที่มีคุณสมบัติ AI ก็คงไม่สามารถทำได้ด้วยพื้นที่เพียงเล็กน้อย ซึ่งเป็นเหตุผลว่าทำไม Microsoft จึงทำให้ RAM ขนาด 16GB เป็นขั้นต่ำที่แน่นอนสำหรับพีซี Copilot

แม้ว่านั่นจะถือเป็นปริมาณที่ดีสำหรับพีซีที่ไม่ใช่ AI ทั่วไป แต่ฉันรู้สึกว่าสำหรับพีซีที่ใช้ผู้ช่วย AI ในพื้นที่อยู่เบื้องหลังตลอดเวลา นี่จะเหมือนกับพีซีขนาด 8GB บวกกับ AI มากกว่า เว้นแต่คุณจะปิดใช้งานส่วน AI ของ สมการ

พีซี AI บางเครื่องไม่มี RAM ที่สามารถอัปเกรดได้

หากพีซี Windows แบบ AI เครื่องใหม่ของคุณใช้ระบบแบบรวมบนชิปหรือมี RAM ที่ถูกบัดกรีอย่างถาวร เช่นเดียวกับในกรณีของแล็ปท็อปที่บางและเบาจำนวนมาก คุณจะต้องติดอยู่กับจำนวน RAM ใดก็ตามที่ระบบมา กับ. ซึ่งหมายความว่าคุณต้องได้รับ RAM ตามจำนวนที่คุณต้องการตั้งแต่เริ่มต้น ไม่เช่นนั้นคุณจะต้องใช้คอมพิวเตอร์เครื่องใหม่ทั้งเครื่องหากปรากฏว่าคุณทำเงินผิดจำนวน

ก่อนหน้านี้ ฉันดูว่า RAM ขนาด 32GB ไม่ใช่จำนวนที่ต้องการหรือไม่ และข้อสรุปของฉันก็คือหน่วยความจำจำนวนนี้ยังถือว่าเกินความจำเป็นสำหรับผู้ใช้ทั่วไป อย่างไรก็ตาม เมื่อคำนึงถึงขนาดโมเดล AI ในอนาคต ฉันคิดว่า 32GB ควรเป็นสิ่งที่ใครก็ตามที่สนใจเกี่ยวกับฟีเจอร์ AI เหล่านี้ต้องมุ่งเป้า

หากคุณใส่ใจเกี่ยวกับ AI รับหน่วยความจำเพิ่มเติม

ไม่ว่าคุณจะสนใจฟีเจอร์ AI ในพื้นที่หรือไม่ แน่นอนว่าสิ่งสำคัญจริงๆ ที่นี่ หากคุณไม่ทำเช่นนั้น จะเป็นเรื่องดีที่ Copilot PC เหล่านี้เพิ่ม RAM ขั้นต่ำเป็น 16GB เพียงปิดการใช้งานหรือเพิกเฉยต่อส่วน AI ของสมการ แล้วคุณจะสบายดี ในความเป็นจริง เว้นแต่คุณจะมีเหตุผลอื่นที่น่าสนใจ ให้ข้ามพีซี AI เหล่านี้ไปเลยและยึดติดกับตัวเลือกหลักๆ แทน

ในทางกลับกัน หากคุณรู้สึกตื่นเต้นกับฟีเจอร์ AI ในพื้นที่และเห็นวิธีต่างๆ มากมายที่คุณสามารถใช้เครื่องมือเหล่านี้ได้ในอนาคต อย่าชำระตามข้อกำหนดขั้นต่ำเปลือยเปล่า เว้นแต่คุณจะมีตัวเลือกในการเพิ่ม RAM เพิ่มเติมในภายหลัง