AI PC คืออะไรกันแน่? และคุณควรซื้อในปี 2025 หรือไม่?

องค์กรต่าง ๆ กําลังหันมาใช้แมชชีนเลิร์นนิงเนื่องจากผลตอบแทนจากการลงทุน คนที่ทําแบบเรียลไทม์กําลังอยู่ในอันดับต้น ๆ ของชาร์ต

  มีรายงานว่าองค์กรที่ใช้แมชชีนเลิร์นนิงแบบเรียลไทม์ได้รับผลตอบแทนจากการลงทุนที่เพิ่มขึ้น

หลังจากพูดคุยกับวิศวกรแมชชีนเลิร์นนิงและโครงสร้างพื้นฐานที่บริษัทอินเทอร์เน็ตรายใหญ่ทั่วสหรัฐอเมริกายุโรปและจีน กลุ่มหนึ่งได้ลงทุนหลายร้อยล้านดอลลาร์ในโครงสร้างพื้นฐานเพื่อให้สามารถใช้แมชชีนเลิร์นนิงแบบเรียลไทม์และได้เห็นผลตอบแทนจากการลงทุนของพวกเขาแล้ว อีกกลุ่มหนึ่งยังคงสงสัยว่าแมชชีนเลิร์นนิงแบบเรียลไทม์มีคุณค่าหรือไม่

ความจริงที่ว่าการรายงานผลตอบแทนจากการลงทุนเป็นวิธีที่ดีในการดึงดูดความสนใจดูเหมือนจะไม่สูญหายไปกับ Chip Huyen Huyen เป็นนักเขียนและนักวิทยาศาสตร์คอมพิวเตอร์ที่ทํางานเกี่ยวกับโครงสร้างพื้นฐานสําหรับการเรียนรู้ของเครื่องแบบเรียลไทม์ เธอเป็นคนที่เขียนบทนําข้างต้นเกี่ยวกับการค้นพบของเธอเกี่ยวกับแมชชีนเลิร์นนิง แบบเรียลไทม์เพื่อตกผลึกประสบการณ์ที่เพิ่มขึ้นที่เธอและเพื่อนร่วมงานของเธอกําลังสะสมอยู่

Huyen เคยทํางานร่วมกับ Netflix, Nvidia, Primer และ Snorkel AI ก่อนที่จะก่อตั้งสตาร์ทอัพ (ซ่อนตัว) ของเธอเอง เธอจบการศึกษาจากสแตนฟอร์ด ซึ่งเธอยังสอนการออกแบบระบบ แมชชีนเลิร์นนิ่ง และเป็น LinkedIn Top Voice ในปี 2019 และ 2020

กล่าวอีกนัยหนึ่ง Huyen อยู่ในตําแหน่งที่ดีมากในการรายงานสิ่งที่ Tony Baer ผู้ร่วมให้ข้อมูล ZDNet อธิบายว่าเป็น "เป้าหมายที่เข้าใจยากมานานสําหรับระบบปฏิบัติการและการวิเคราะห์" ในมุมมอง Data 2022 ของเขา: การรวมข้อมูลที่เคลื่อนไหว (สตรีมมิ่ง) เข้ากับข้อมูลที่ไม่ได้ใช้งาน (ข้อมูลอยู่ในฐานข้อมูลหรือที่จัดเก็บข้อมูลดิบ) เป้าหมายสูงสุดในการทําเช่นนั้นคือการบรรลุ ROI ที่ Huyen รายงาน

การคาดการณ์แมชชีนเลิร์นนิงและการอัปเดตระบบแบบเรียลไทม์

การวิเคราะห์ของ Huyen หมายถึงโมเดลและระบบแมชชีนเลิร์นนิงแบบเรียลไทม์ใน 2 ระดับ ระดับ 1 คือการคาดการณ์ออนไลน์: ระบบ ML ที่ทําการคาดการณ์แบบเรียลไทม์ ซึ่งเธอกําหนดแบบเรียลไทม์ให้อยู่ในลําดับของมิลลิวินาทีถึงวินาที ระดับ 2 คือการเรียนรู้อย่างต่อเนื่อง: ระบบ ML ที่รวมข้อมูลใหม่และอัปเดตแบบเรียลไทม์ ซึ่งเธอกําหนดแบบเรียลไทม์ให้อยู่ในลําดับนาที

สาระสําคัญของเหตุผลที่ระบบระดับ 1 มีความสําคัญก็คือ อย่างที่ Huyen กล่าวไว้ว่า "ไม่ว่าโมเดล ML ของคุณจะยอดเยี่ยมแค่ไหน แต่หากใช้เวลานานเกินไปในการคาดการณ์ ผู้ใช้จะคลิกที่อย่างอื่น" ในขณะที่เธออธิบายอย่างละเอียด "ไม่ใช่วิธีแก้ปัญหา" สําหรับการคาดการณ์ที่รวดเร็วคือการทําเป็นชุดแบบออฟไลน์จัดเก็บและดึงเมื่อจําเป็น

สิ่งนี้สามารถทํางานได้เมื่อพื้นที่อินพุตมีจํากัด - คุณรู้แน่ชัดว่ามีอินพุตที่เป็นไปได้กี่รายการในการคาดการณ์ ตัวอย่างหนึ่งคือเมื่อคุณต้องการสร้างคําแนะนําภาพยนตร์สําหรับผู้ใช้ของคุณ - คุณรู้ว่ามีผู้ใช้กี่คน ดังนั้นคุณจึงคาดการณ์ชุดคําแนะนําสําหรับผู้ใช้แต่ละรายเป็นระยะ เช่น ทุกๆ สองสามชั่วโมง

เพื่อให้พื้นที่ป้อนข้อมูลของผู้ใช้มีจํากัด แอปพลิเคชันจํานวนมากทําให้ผู้ใช้เลือกจากหมวดหมู่แทนที่จะป้อนแบบสอบถามปลายเปิด Huyen ตั้งข้อสังเกต จากนั้นเธอก็แสดงตัวอย่างว่าวิธีการนี้สามารถสร้างผลลัพธ์ที่อาจส่งผลเสียต่อประสบการณ์ของผู้ใช้ได้อย่างไร

แม้ว่าจะควบคู่ไปกับการมีส่วนร่วม/การรักษาผู้ใช้อย่างแน่นหนา แต่ก็ไม่ใช่ความล้มเหลวร้ายแรง ผลลัพธ์ที่ไม่ดีอาจเป็นหายนะในโดเมนอื่นๆ เช่น ยานพาหนะอัตโนมัติในการตรวจจับการฉ้อโกง การเปลี่ยนจากการคาดการณ์แบบแบทช์เป็นการคาดการณ์ออนไลน์ช่วยให้สามารถใช้คุณสมบัติแบบไดนามิกเพื่อทําการคาดการณ์ที่เกี่ยวข้องมากขึ้น

ระบบ ML จําเป็นต้องมีสององค์ประกอบจึงจะสามารถทําได้ Huyen กล่าว พวกเขาต้องการการอนุมานที่รวดเร็ว เช่น แบบจําลองที่สามารถคาดการณ์ได้ในลําดับมิลลิวินาที และพวกเขายังต้องการไปป์ไลน์แบบเรียลไทม์ เช่น ไปป์ไลน์ที่สามารถประมวลผลข้อมูล ป้อนข้อมูลลงในแบบจําลอง และส่งคืนการคาดการณ์แบบเรียลไทม์

เพื่อให้ได้การอนุมานที่เร็วขึ้น Huyen กล่าวเสริมว่า โมเดลสามารถสร้างได้เร็วขึ้น สามารถทําให้เล็กลง หรือฮาร์ดแวร์สามารถทําได้เร็วขึ้น การมุ่งเน้นไปที่การอนุมาน TinyML และชิป AI ที่เราได้กล่าวถึงในคอลัมน์นี้สอดคล้องกับสิ่งนี้อย่างสมบูรณ์แบบ และโดยธรรมชาติแล้ว แนวทางเหล่านี้ก็ไม่ได้แยกกันเช่นกัน

Huyen ยังเริ่มวิเคราะห์ปัจจัยพื้นฐานและเฟรมเวิร์กการสตรีม ซึ่งเป็นสิ่งที่ได้เห็นการครอบคลุมอย่างกว้างขวางในคอลัมน์นี้ตั้งแต่เนิ่นๆ หลายบริษัทกําลังเปลี่ยนจากการประมวลผลแบบแบตช์เป็นการประมวลผลแบบสตรีม จากสถาปัตยกรรมที่ขับเคลื่อนด้วยคําขอเป็นสถาปัตยกรรมที่ขับเคลื่อนด้วยเหตุการณ์ และสิ่งนี้เชื่อมโยงกับความนิยมของเฟรมเวิร์ก เช่น Apache Kafka และ Apache Flink การเปลี่ยนแปลงนี้ยังคงช้าในสหรัฐอเมริกา แต่เร็วกว่ามากในจีน Huyen ตั้งข้อสังเกต

อย่างไรก็ตาม มีสาเหตุหลายประการที่ทําให้การสตรีมไม่เป็นที่นิยม บริษัทไม่เห็นประโยชน์ มีการเปลี่ยนแปลงทางจิตใจและการลงทุนเริ่มต้นที่สูงในโครงสร้างพื้นฐานที่จําเป็นต้นทุนการประมวลผลสูงขึ้นและเฟรมเวิร์กเหล่านี้ไม่ใช่ Python แม้ว่าจะมีความพยายามที่จะเชื่อมช่องว่างผ่าน Apache Beam

Huyen ชอบคําว่า "การเรียนรู้อย่างต่อเนื่อง" แทนที่จะเป็น "การฝึกอบรมออนไลน์"  หรือ "การเรียนรู้ออนไลน์" สําหรับระบบแมชชีนเลิร์นนิงตามแบบจําลองที่ได้รับการอัปเดตแบบเรียลไทม์ เมื่อผู้คนได้ยินการฝึกอบรมออนไลน์หรือการเรียนรู้ออนไลน์

มีเพียงไม่กี่บริษัทที่ทําเช่นนี้จริง ๆ เนื่องจากวิธีนี้ต้องทนทุกข์ทรมานจากการลืมหายนะ -- โครงข่ายประสาทเทียมลืมข้อมูลที่เรียนรู้ก่อนหน้านี้อย่างกะทันหันเมื่อเรียนรู้ข้อมูลใหม่ นอกจากนี้ การเรียกใช้ขั้นตอนการเรียนรู้บนจุดข้อมูลเพียงจุดเดียวอาจมีราคาแพงกว่าในแบทช์

Huyen ทําการวิเคราะห์ข้างต้นในเดือนธันวาคม 2020 ในเดือนมกราคม พ.ศ. 2022 เธอกลับมาทบทวนหัวข้อนี้อีกครั้ง แม้ว่าเธอจะเห็นว่าเรายังอยู่ห่างจากการเรียนรู้อย่างต่อเนื่องในกระแสหลักอีกไม่กี่ปี แต่เธอเห็นการลงทุนที่สําคัญจากบริษัทต่างๆ เพื่อก้าวไปสู่การอนุมานออนไลน์ เธอร่างความคืบหน้าทางวิวัฒนาการไปสู่การทํานายออนไลน์

สู่การคาดการณ์ออนไลน์

ขั้นตอนที่ 1 คือการคาดการณ์แบทช์ ในขั้นตอนนี้ การคาดการณ์ทั้งหมดจะถูกคํานวณล่วงหน้าเป็นชุด โดยสร้างขึ้นในช่วงเวลาหนึ่ง เช่น ทุกๆ 4 ชั่วโมงหรือทุกวัน กรณีการใช้งานทั่วไปสําหรับการคาดคะเนเป็นชุดคือคําแนะนําตามเนื้อหาการกรองร่วมกัน ตัวอย่างของบริษัทที่ใช้การคาดการณ์เป็นชุด ได้แก่ คําแนะนําร้านอาหารของ DoorDash, คําแนะนํา subreddit ของ Reddit หรือคําแนะนําของ Netflix ประมาณปี 2021

Huyen ตั้งข้อสังเกตว่า Netflix กําลังย้ายการคาดการณ์แมชชีนเลิร์นนิงทางออนไลน์ เธอกล่าวเสริมว่าเหตุผลส่วนหนึ่งคือสําหรับผู้ใช้ใหม่หรือไม่ได้เข้าสู่ระบบ เมื่อถึงเวลาที่สร้างคําแนะนําชุดถัดไป ผู้เยี่ยมชมเหล่านี้อาจออกไปแล้วโดยไม่ได้ทําการซื้อ เนื่องจากไม่พบสิ่งใดที่เกี่ยวข้องกับพวกเขา

Huyen ระบุว่าความโดดเด่นของการคาดการณ์แบทช์เป็นระบบแบทช์รุ่นเก่า เช่น Hadoop ระบบเหล่านั้นช่วยให้สามารถประมวลผลข้อมูลจํานวนมากเป็นระยะได้อย่างมีประสิทธิภาพมากดังนั้นเมื่อ บริษัท ต่างๆเริ่มต้นด้วยแมชชีนเลิร์นนิงพวกเขาใช้ประโยชน์จากระบบแบทช์ที่มีอยู่เพื่อทําการคาดการณ์

ขั้นตอนที่ 2 คือการคาดการณ์ออนไลน์พร้อมคุณสมบัติแบทช์ คุณลักษณะในแมชชีนเลิร์นนิงคือคุณสมบัติหรือลักษณะที่วัดได้ของปรากฏการณ์ที่ใช้ในการสร้างแบบจําลอง คุณลักษณะแบบแบทช์คือคุณลักษณะที่ดึงมาจากข้อมูลในอดีต ซึ่งมักจะมีการประมวลผลแบบแบตช์ หรือที่เรียกว่าคุณลักษณะแบบคงที่หรือคุณลักษณะในอดีต

แทนที่จะสร้างการคาดการณ์ก่อนที่คําขอจะมาถึง องค์กรในขั้นตอนนี้จะสร้างการคาดการณ์หลังจากที่คําขอมาถึง พวกเขารวบรวมกิจกรรมของผู้ใช้บนแอปพลิเคชันของตนแบบเรียลไทม์ อย่างไรก็ตาม เหตุการณ์เหล่านี้จะใช้เพื่อค้นหาการฝังที่คํานวณไว้ล่วงหน้าเพื่อสร้างการฝังเซสชันเท่านั้น

ในที่นี้ Huyen หมายถึงการฝังในแมชชีนเลิร์นนิง การฝังสามารถคิดได้ว่าเป็นวิธีแสดงเวกเตอร์ ซึ่งเป็นสิ่งที่โมเดลแมชชีนเลิร์นนิงทํางานด้วยเพื่อแสดงข้อมูลที่เกี่ยวข้องกับโลกแห่งความเป็นจริง

สิ่งสําคัญที่ต้องจําเกี่ยวกับระบบ Stage 2 คือพวกเขาใช้ข้อมูลที่เข้ามาจากการกระทําของผู้ใช้เพื่อค้นหาข้อมูลในการฝังที่คํานวณไว้ล่วงหน้า โมเดลแมชชีนเลิร์นนิงเองไม่ได้รับการอัปเดต เพียงแต่พวกเขาให้ผลลัพธ์แบบเรียลไทม์

สถาปัตยกรรมของระบบแมชชีนเลิร์นนิงการทํานายออนไลน์

เป้าหมายของการคาดการณ์ตามเซสชันตาม Huyen คือการเพิ่ม Conversion (เช่น การเปลี่ยนผู้เข้าชมครั้งแรกเป็นผู้ใช้ใหม่หรืออัตราการคลิกผ่าน) และการรักษา รายชื่อบริษัทที่ทําการอนุมานออนไลน์อยู่แล้วหรือมีการอนุมานออนไลน์ในแผนงานปี 2022 กําลังเติบโตขึ้น รวมถึง Netflix, YouTube, Roblox, Coveo เป็นต้น

Huyen ตั้งข้อสังเกตว่าทุกบริษัทที่ย้ายไปใช้การอนุมานออนไลน์ที่พูดคุยกับเธอบอกเธอว่าพวกเขามีความสุขมากกับการชนะของเมตริก เธอคาดว่าในอีกสองปีข้างหน้าระบบผู้แนะนําส่วนใหญ่จะอิงตามเซสชัน: ทุกคลิกทุกมุมมองทุกธุรกรรมจะถูกใช้เพื่อสร้างคําแนะนําใหม่ที่เกี่ยวข้องในแบบเรียลไทม์

องค์กรจะต้องอัปเดตโมเดลของตนจากการคาดการณ์เป็นชุดเป็นการคาดการณ์ตามเซสชันสําหรับขั้นตอนนี้ ซึ่งหมายความว่าพวกเขาอาจต้องเพิ่มโมเดลใหม่ องค์กรจะต้องรวมข้อมูลเซสชันเข้ากับบริการคาดการณ์ของตนด้วย โดยทั่วไปสามารถทําได้ด้วยโครงสร้างพื้นฐานการสตรีม ซึ่งประกอบด้วยสององค์ประกอบ Huyen เขียน

ส่วนแรกคือการส่งข้อมูลแบบสตรีมมิ่ง เช่น Kafka, AWS Kinesis หรือ GCP Dataflow เพื่อย้ายข้อมูลสตรีมมิ่ง (กิจกรรมของผู้ใช้) ส่วนที่สองคือกลไกการคํานวณการสตรีม เช่น Flink SQL, KSQL หรือ Spark Streaming เพื่อประมวลผลข้อมูลการสตรีม

หลายคนเชื่อว่าการคาดการณ์ออนไลน์มีประสิทธิภาพน้อยกว่าทั้งในแง่ของต้นทุนและประสิทธิภาพมากกว่าการคาดการณ์แบบแบทช์ เนื่องจากการประมวลผลการคาดการณ์เป็นแบทช์มีประสิทธิภาพมากกว่าการประมวลผลการคาดการณ์ทีละรายการ Huyen เชื่อว่าสิ่งนี้ไม่จําเป็นต้องเป็นความจริงเสมอไป

เหตุผลส่วนหนึ่งคือไม่จําเป็นต้องสร้างการคาดการณ์สําหรับผู้ใช้ที่ไม่ได้เยี่ยมชมไซต์ที่มีการคาดคะเนออนไลน์ หากมีเพียง 2% ของผู้ใช้ทั้งหมดที่เข้าสู่ระบบทุกวัน และสร้างการคาดการณ์สําหรับผู้ใช้ทุกคนในแต่ละวัน ความท้าทายของขั้นตอนนี้จะอยู่ที่เวลาแฝงในการอนุมานการตั้งค่าโครงสร้างพื้นฐานการสตรีมและการฝังคุณภาพสูง

การคาดการณ์ออนไลน์พร้อมคุณสมบัติการสตรีมและแบทช์ที่ซับซ้อน

ขั้นตอนที่ 3 ในระดับวิวัฒนาการของ Huyen คือการคาดการณ์ออนไลน์ที่มีคุณสมบัติการสตรีมและแบทช์ที่ซับซ้อน คุณสมบัติการสตรีมคือคุณสมบัติที่ดึงมาจากข้อมูลการสตรีม ซึ่งมักจะมีการประมวลผลสตรีม หรือที่เรียกว่าคุณสมบัติแบบไดนามิกหรือคุณสมบัติออนไลน์

หาก บริษัท ในระยะที่ 2 ต้องการการประมวลผลสตรีม บริษัท ในระยะที่ 3 จะใช้คุณสมบัติการสตรีมมากขึ้น ตัวอย่างเช่น หลังจากที่ผู้ใช้สั่งซื้อบน Doordash แล้ว พวกเขาอาจต้องการทั้งฟีเจอร์แบทช์และฟีเจอร์สตรีมมิ่งเพื่อประเมินเวลาในการจัดส่ง

ฟีเจอร์แบทช์อาจรวมถึงเวลาเตรียมเฉลี่ยของร้านอาหารนี้ในอดีต ในขณะที่ฟีเจอร์การสตรีมในขณะนี้อาจรวมถึงจํานวนคําสั่งซื้ออื่นๆ และจํานวนพนักงานส่งของที่พร้อมให้บริการ

ในกรณีของคําแนะนําตามเซสชันที่กล่าวถึงในขั้นตอนที่ 2 แทนที่จะใช้การฝังรายการเพื่อสร้างการฝังเซสชัน อาจใช้คุณลักษณะของสตรีม เช่น ระยะเวลาที่ผู้ใช้ใช้บนเว็บไซต์หรือจํานวนการซื้อสินค้าในช่วง 24 ชั่วโมงที่ผ่านมา

ตัวอย่างของบริษัทในขั้นตอนนี้ ได้แก่ Stripe, Uber, Faire สําหรับกรณีการใช้งาน เช่น การตรวจจับการฉ้อโกง การให้คะแนนเครดิต การประมาณการการขับขี่และการจัดส่ง และคําแนะนํา

จํานวนคุณสมบัติสตรีมสําหรับการคาดการณ์แต่ละครั้งอาจมีหลายร้อยหรือหลายพัน ตรรกะการแยกคุณลักษณะสตรีมอาจต้องใช้การสืบค้นที่ซับซ้อนพร้อมการรวมและการรวมตามมิติที่แตกต่างกัน ในการแยกคุณสมบัติเหล่านี้ต้องใช้เอ็นจิ้นการประมวลผลสตรีมที่มีประสิทธิภาพ

มีข้อกําหนดที่สําคัญบางประการในการย้ายเวิร์กโฟลว์แมชชีนเลิร์นนิงไปยังขั้นตอนนี้ ตาม Huyen อย่างแรกคือโครงสร้างพื้นฐานการสตรีมที่ครบถ้วนพร้อมเอ็นจิ้นการประมวลผลสตรีมที่มีประสิทธิภาพซึ่งสามารถคํานวณคุณสมบัติการสตรีมทั้งหมดด้วยเวลาแฝงที่ยอมรับได้ อันที่สองคือที่เก็บคุณลักษณะสําหรับจัดการคุณลักษณะที่เป็นรูปธรรมและรับรองความสอดคล้องของคุณลักษณะสตรีมในระหว่างการฝึกอบรมและการคาดการณ์

อันที่สามเป็นร้านโมเดล คุณลักษณะสตรีมหลังจากสร้างแล้วจะต้องได้รับการตรวจสอบความถูกต้อง เพื่อให้แน่ใจว่าคุณลักษณะใหม่จะช่วยเพิ่มประสิทธิภาพของโมเดลของคุณจริง ๆ คุณต้องการเพิ่มคุณลักษณะนั้นลงในโมเดล ซึ่งจะสร้างโมเดลใหม่ได้อย่างมีประสิทธิภาพ Huyen กล่าว ตามหลักการแล้ว ร้านค้าโมเดลควรช่วยจัดการและประเมินโมเดลที่สร้างด้วยคุณสมบัติการสตรีมใหม่ แต่ร้านค้าโมเดลที่ประเมินโมเดลยังไม่มีอยู่จริง

สุดท้าย แต่ไม่ท้ายสุดคือสภาพแวดล้อมการพัฒนาที่ดีขึ้น ปัจจุบันนักวิทยาศาสตร์ข้อมูลทํางานจากข้อมูลในอดีตแม้ว่าพวกเขาจะสร้างคุณสมบัติการสตรีม ซึ่งทําให้ยากต่อการคิดค้นและตรวจสอบคุณสมบัติการสตรีมใหม่

จะเกิดอะไรขึ้นถ้าเราสามารถให้นักวิทยาศาสตร์ข้อมูลเข้าถึงสตรีมข้อมูลได้โดยตรง เพื่อให้พวกเขาสามารถทดลองและตรวจสอบคุณสมบัติสตรีมใหม่ได้อย่างรวดเร็ว Huyen ถาม แทนที่จะเป็นนักวิทยาศาสตร์ข้อมูลเท่านั้นที่สามารถเข้าถึงข้อมูลในอดีต จะเกิดอะไรขึ้นถ้าพวกเขาสามารถเข้าถึงสตรีมข้อมูลที่เข้ามาจากสมุดบันทึกของตนได้

ดูเหมือนว่าจะเป็นไปได้ในปัจจุบัน เช่น การรวมโน้ตบุ๊ก Flink และ Kafka แม้ว่าเราจะไม่แน่ใจว่าสิ่งเหล่านี้ตรงกับสิ่งที่ Huyen จินตนาการไว้หรือไม่ แต่สิ่งสําคัญคือต้องเห็นภาพรวมที่นี่

เป็นหัวข้อที่ซับซ้อน และ Huyen กําลังวางเส้นทางตามประสบการณ์ของเธอกับองค์กรที่มีเทคโนโลยีล้ําหน้าที่สุด และเรายังไม่ได้แตะต้องระดับ 2 ด้วยซ้ํา - ระบบแมชชีนเลิร์นนิงที่รวมข้อมูลใหม่และอัปเดตแบบเรียลไทม์

อย่างไรก็ตาม หากประสบการณ์ของ Huyen เป็นอะไรก็ตาม กําไรอาจพิสูจน์การลงทุนได้ เป็นอย่างดี