อนาคตของ AI คือเรื่องราวของซอฟต์แวร์ CEO ของ Graphcore กล่าว
แม้ว่าจะเป็นที่รู้จักในด้านฮาร์ดแวร์คอมพิวเตอร์ขนาดใหญ่ แต่ Graphcore ผู้ผลิตคอมพิวเตอร์ AI ก็มีไซต์ที่ตั้งค่าการต่อสู้กับ Nvidia เพื่อระบบนิเวศซอฟต์แวร์ CEO Nigel Toon กล่าว
"เราอาจยังอยู่ในขั้นตอนของ Pac Man เรายังไม่ได้ไปถึงเกมสามมิติ" เท่าที่วิวัฒนาการของ AI Nigel Toon ซีอีโอของ Graphcore กล่าว
"ความเข้าใจผิดในที่นี้คือนี่เป็นปัญหาซอฟต์แวร์ที่ต้องแก้ไขมากกว่าปัญหาฮาร์ดแวร์" Nigel Toon ประธานเจ้าหน้าที่บริหารของ Graphcore สตาร์ทอัพคอมพิวเตอร์ AI กล่าว
Graphcore เป็นที่รู้จักในด้านการสร้างระบบคอมพิวเตอร์ที่มีคอร์โปรเซสเซอร์หลายแสนคอร์ภายใน "หน่วยประมวลผลอัจฉริยะ" หรือ IPU ชิปทุกตัว เพื่อแก้ไขปัญหาปัญญา ประดิษฐ์
เครื่องล่าสุดมีชิป IPU "Bow" ซึ่งประกอบด้วยแม่พิมพ์เซมิคอนดักเตอร์สองตัวซ้อนทับกัน
ถึงกระนั้น Toon ซึ่งอยู่ในเมืองเมื่อสัปดาห์ที่แล้วจากสํานักงานใหญ่ของ Graphcore ในบริสตอล ประเทศอังกฤษ บอกกับ ZDNet ว่าซอฟต์แวร์เป็นหัวใจสําคัญของความท้าทายที่ใหญ่มากของปัญหา AI ที่ใหญ่ขึ้นเรื่อยๆ ในขณะที่ฮาร์ดแวร์แม้ว่าจะไม่ใช่เรื่องเล็กน้อย แต่ก็เป็นรองในแง่หนึ่ง
"คุณสามารถสร้างฮาร์ดแวร์ที่แปลกใหม่ได้ทุกประเภท แต่ถ้าคุณไม่สามารถสร้างซอฟต์แวร์ที่สามารถแปลจากความสามารถของบุคคลในการอธิบายในระดับที่เรียบง่ายเป็นฮาร์ดแวร์ได้จริง ๆ คุณก็ไม่ได้สร้างโซลูชันจริงๆ" Toon กล่าวระหว่างรับประทานอาหารกลางวันที่ร้านกาแฟ The Grey Dog ในย่าน Union Square ของแมนฮัตตัน
มันเป็นหนึ่งในการเดินทางหลายครั้งของ Toon ตั้งแต่การล็อกดาวน์จากการแพร่ระบาดได้จางหายไป เขามีความสุขที่ได้กลับไปพบปะกับลูกค้า "เป็นเรื่องดีที่ได้เดินทางอีกครั้ง" เขากล่าว และได้เผชิญหน้ากัน
ในบรรดาประเด็นที่ต้องเน้นย้ําในการแกว่งของเขาผ่านสหรัฐอเมริกาคือปัจจัยด้านซอฟต์แวร์ โดยเฉพาะอย่างยิ่งความสามารถของซอฟต์แวร์ Poplar ของ Graphcore ซึ่งแปลโปรแกรมที่เขียนบนเฟรมเวิร์ก AI เช่น PyTorch หรือ TensorFlow เป็นโค้ดเครื่อง ที่มีประสิทธิภาพ
อันที่จริงการแปลเป็นกุญแจสําคัญของ AI Toon โต้แย้ง ไม่ว่าคุณจะสร้างฮาร์ดแวร์แบบใดความท้าทายคือจะแปลจากสิ่งที่โปรแกรมเมอร์ PyTorch หรือ TensorFlow กําลังทําไปสู่ทรานซิสเตอร์ที่มีอยู่ ได้อย่างไร
แนวคิดทั่วไปคือฮาร์ดแวร์ AI เป็นเรื่องเกี่ยวกับการเร่งการคูณเมทริกซ์ ซึ่งเป็นส่วนประกอบสําคัญของการอัปเดตน้ําหนักสุทธิของระบบประสาท แต่โดยพื้นฐานแล้วมันไม่ใช่
"มันเป็นเพียงการคูณเมทริกซ์ และเป็นเพียงการบิดเบี้ยวที่เราต้องการ หรือมีการดําเนินการอื่นที่เราต้องการ" Toon ถามด้วยวา ทศิลป์
ในความเป็นจริงเขากล่าวว่า "มันเกี่ยวกับความซับซ้อนของข้อมูลมากกว่า"
Toon กล่าวว่าโครงข่ายประสาทเทียมขนาดใหญ่ เช่น GPT-3 เป็น "หน่วยความจําที่เกี่ยวข้องจริงๆ" ดังนั้นการเชื่อมต่อระหว่างข้อมูลจึงเป็นสิ่งสําคัญ และการเคลื่อนย้ายสิ่งต่าง ๆ เข้าและออกจากหน่วยความจํากลายเป็นคอขวดสําหรับการคํานวณ
ตูนคุ้นเคยกับปัญหาการเชื่อมต่อดังกล่าวเป็นอย่างดี เขาจําได้ว่า Toon ใช้เวลาสิบสี่ปีที่ผู้ผลิตชิปที่ตั้งโปรแกรมได้ Altera ซึ่งต่อมาถูกซื้อโดย Intel ชิปลอจิกที่ตั้งโปรแกรมได้หรือที่เรียกว่า "FPGA" ทํางานโดยให้บล็อกคอมพิวเตอร์ที่เรียกว่าเซลล์เชื่อมโยงสําหรับแต่ละงานโดยการเผาฟิวส์ระหว่างกัน
"ซอฟต์แวร์ทั้งหมด" ของ FPGA "เกี่ยวกับวิธีที่คุณใช้กราฟ ซึ่งเป็นรายการเน็ตหรือ RTL ของคุณ และแปลเป็นการเชื่อมต่อระหว่างกันภายใน FPGA" เขาอธิบาย
งานซอฟต์แวร์ดังกล่าวมีความซับซ้อน มาก
"คุณสร้างลําดับชั้นของการเชื่อมต่อระหว่างกันภายในชิปเพื่อพยายามทําให้สิ่งนั้นใช้งานได้ แต่จากมุมมองของซอฟต์แวร์ มันเป็นปัญหา NP-Hard ในการแมปกราฟกับการเชื่อมต่อระหว่างกัน" เขากล่าว โดยอ้างถึง "เวลาพหุนามที่ไม่กําหนด" ซึ่งเป็นการวัดความซับซ้อนใน การคํานวณ
เนื่องจากเป็นการแปลความซับซ้อนของความสัมพันธ์เป็นทรานซิสเตอร์ "มันเป็นปัญหากราฟจริงๆ นั่นเป็นเหตุผลที่เราตั้งชื่อบริษัทว่า Graphcore" Toon กล่าว โดยทั่วไป กราฟคือความสมบูรณ์ของการพึ่งพาซึ่งกันและกันระหว่างงานคอมพิวเตอร์ต่างๆ ในโปรแกรม ที่กําหนด
"คุณต้องเริ่มต้นจากแนวทางวิทยาการคอมพิวเตอร์ที่บอกว่า มันจะเป็นกราฟ คุณต้องสร้างโปรเซสเซอร์เพื่อทํางานกับกราฟ เพื่อทําการประมวลผลกราฟแบบขนานสูง"
"เราสร้างซอฟต์แวร์ขึ้นจากสิ่งนั้น เราสร้างโปรเซสเซอร์ลง"
นั่นหมายความว่าฮาร์ดแวร์เป็นเพียงการให้บริการซอฟต์แวร์ "คอมพิวเตอร์เป็นไปตามโครงสร้างข้อมูล" Toon โต้แย้ง "มันเป็นปัญหาของซอฟต์แวร์"
นั่นคือโอกาสของ Toon ที่จะใช้ซอฟต์แวร์ CUDA ของ Nvidia ซึ่งมีพลังมหาศาลในโลก AI
"มันน่าสนใจ: หลายคนบอกว่า CUDA เป็นระบบนิเวศที่ทําให้คนอื่นไม่สามารถแข่งขันได้" Toon สังเกต "แต่สิ่งที่คุณเข้าใจผิดคือไม่มีใครเขียนโปรแกรมใน CUDA ไม่มีใครต้องการเขียนโปรแกรมใน CUDA ผู้คนต้องการตั้งโปรแกรมใน TensorFlow และตอนนี้ PyTorch และต่อไป JAX พวกเขาต้องการโครงสร้างระดับสูง" เขากล่าวโดยอ้างถึงไลบรารีการพัฒนาโอเพ่นซอร์สต่างๆ ที่สร้างขึ้นโดย Meta และ Google และอื่น ๆ
"เฟรมเวิร์กทั้งหมดเหล่านั้นเป็นเฟรมเวิร์กกราฟ" เขาตั้งข้อสังเกต "คุณกําลังอธิบายกราฟนามธรรม โดยมีโอเปอเรเตอร์ขนาดใหญ่เป็นแกนหลักของแต่ละองค์ประกอบภายในกราฟ"
Nvidia ตั้งข้อสังเกตว่า "ได้สร้างชุดไลบรารีที่น่าทึ่งเพื่อแปลจากนามธรรมระดับสูงที่โปรแกรมเมอร์รู้สึกสบายใจ นั่นคือส่วนที่ Nvidia ได้ทํา ไม่ใช่ CUDA เสมอ"
เข้าสู่ข้อเสนอคู่แข่งของ Graphcore Poplar สิ่งที่แปลจาก PyTorch และส่วนที่เหลือเป็นสิ่งที่เขาโต้แย้งคือฮาร์ดแวร์ที่มีประสิทธิภาพมากขึ้นของ Graphcore Poplar แยกกราฟการประมวลผลและแปลเป็นประตูใดก็ได้ที่อยู่ในฮาร์ดแวร์ Graphcore ในวันนี้ และอะไรก็ตามที่จะแทนที่ประตูเหล่านั้นในวันพรุ่งนี้
อย่างไรก็ตาม มีความสงสัยเกี่ยวกับ Graphcore หรือผู้มีความหวังรุ่นเยาว์อื่นๆ เช่น Cerebras Systems และ SambaNova ที่แข่งขันกับ Nvidia ในไลบรารีที่ Toon อ้างถึง ในบทบรรณาธิการในเดือนเมษายน บรรณาธิการ Linley Gwennap จาก Microprocessor Report อันทรงเกียรติเขียนว่า "ซอฟต์แวร์ ไม่ใช่ฮาร์ดแวร์" ยังคงเป็นปัญหา Gwennap โต้แย้งว่าเวลาในการปิดช่องว่างกําลังจางหายไปสําหรับ Graphcore และอื่นๆ เนื่องจาก Nvidia ดีขึ้นเรื่อย ๆ ด้วยการปรับปรุงฮาร์ดแวร์ เช่น Hopper
ผู้สงสัยเช่น Gwennap ไม่ชื่นชมความคืบหน้าของซอฟต์แวร์ Poplar หรือไม่?
"มันเป็นการเดินทาง" Toon กล่าว "ถ้าคุณมีส่วนร่วมกับ Poplar เมื่อสองปีที่แล้ว คุณจะพูดว่า มันไม่ดีพอ ถ้าคุณมีส่วนร่วมกับ Poplar ตอนนี้ คุณจะบอกว่ามันค่อนข้างดี
"และในอีกสองปีข้างหน้า ผู้คนจะพูดว่า ว้าว สิ่งนี้ทําให้ฉันสามารถทําสิ่งที่ฉันไม่สามารถทําได้บน GPU"
Toon ยืนยันว่าซอฟต์แวร์เป็นระบบนิเวศที่กําลังขยายตัวของตัวเองอยู่แล้ว "ดูระบบนิเวศที่เราสร้างขึ้นรอบ ๆ Poplar เช่น PyTorch Lightning, PyTorch Geometri" ส่วนขยายสองส่วนของ PyTorch ที่ย้ายไปยัง Poplar และชิป Graphcore IPU
"ไม่ใช่แค่ TensorFlow แต่เป็นทั้งชุด" เขากล่าว "TensorFlow นั้นใช้ได้สําหรับนักวิจัย AI แต่ไม่ใช่สภาพแวดล้อมที่นักวิทยาศาสตร์ข้อมูล บุคคล หรือองค์กรขนาดใหญ่มากสามารถมาเล่นด้วยได้"
ผู้ปฏิบัติงานกับนักวิทยาศาสตร์ต้องการเครื่องมือที่เข้าถึงได้ "เราทํางานร่วมกับ Hugging Face, Weights and Biases" ท่ามกลางเครื่องมือแมชชีนเลิร์นนิงอื่นๆ เขาตั้งข้อสังเกต "มีห้องสมุดอื่น ๆ อีกมากมายที่กําลังจะออกมา มีบริษัทที่กําลังสร้างบริการบน IPU" และ "มี MLOps ที่ได้รับการย้ายเพื่อทํางานร่วมกับ Poplar"
Graphcore "ก้าวไปข้างหน้ามากในแง่ของการสร้างระบบนิเวศซอฟต์แวร์เพื่อสร้างความสะดวกในการใช้งาน ด้วยวิธีนี้ผู้คนสามารถเข้ามาได้"
ในความเป็นจริงมันมาจากการผูกขาดซอฟต์แวร์ Toon ยืนยัน "คุณดูคนอื่น แม้แต่บริษัทใหญ่ๆ ก็ไม่มีใครมีสิ่งนั้นนอกจากเราและ Nvidia ซึ่งเป็นระบบนิเวศที่หลากหลาย"
ในขณะเดียวกันเขาอ้างว่าความก้าวหน้าด้านฮาร์ดแวร์ของ Nvidia ไม่ได้ถูกทําลายทั้งหมดเพราะเสรีภาพในการออกแบบของ Nvidia ถูกจํากัดด้วยความสําเร็จของตัวเอง "Nvidia กําลังทําอะไรอยู่? พวกเขาได้เพิ่มคอร์ Tensor และตอนนี้พวกเขาได้เพิ่มคอร์ Transformer แล้ว — พวกเขาไม่สามารถเปลี่ยนคอร์พื้นฐานของโปรเซสเซอร์ได้ เพราะถ้าเป็นเช่นนั้น ไลบรารีทั้งหมดจะต้องถูกทิ้งไป"
ในขณะที่ Graphcore ยังคงตามหลัง Nvidia ในเกณฑ์มาตรฐานส่วนใหญ่ในชุดการทดสอบอุตสาหกรรม MLPerf การผสมผสานระหว่าง Poplar และการออกแบบ IPU กําลังมอบความเหนือกว่าที่วัดได้ในบางกรณีที่สามารถนําไปใช้ได้อย่างรอบ คอบ
"ในบางรุ่น เช่น โครงข่ายประสาทเทียมกราฟ เราเห็นประสิทธิภาพเพิ่มขึ้นห้าหรือสิบเท่า" เมื่อเทียบกับเครื่องที่ใช้ Nvidia เขากล่าว "เนื่องจากโครงสร้างข้อมูล สถาปัตยกรรมพื้นฐานที่เราสร้างขึ้นภายใน IPU นั้นสอดคล้องกับการคํานวณประเภทกราฟที่เบาบางมากกว่า"
เขากล่าวว่า ซอฟต์แวร์ Poplar ยังประสบความสําเร็จในการเร่งความเร็วสองถึงสามเท่าในการเรียกใช้โมเดล Transformer โดยการค้นหาวิธีที่ชาญฉลาดในการขนานองค์ประกอบของกราฟ
สมมติฐานที่ว่าซอฟต์แวร์เป็นสนามรบ และ Nvidia สามารถมีการแข่งขันที่แท้จริงได้ มีรันเวย์มากมายสําหรับโปรแกรม AI ที่จะใหญ่ขึ้น Toon ยืนยันว่าทําให้ความสามารถในการคํานวณ ตึงเครียด
และปัญหาพื้นฐานของการถอดรหัสความรู้ความเข้าใจของมนุษย์ก็ยังห่างไกล
ในคะแนนแรกโปรแกรมมีขนาดใหญ่ขึ้นตลอดเวลา
โมเดล AI ที่ใหญ่ที่สุดในปัจจุบัน เช่น Megatron-Turing NLG ของ Nvidia และ Microsoft ซึ่งเป็นโมเดลการสร้างภาษาธรรมชาติที่ได้มาจากนวัตกรรม Transformer ในปี 2017 มีพารามิเตอร์ครึ่งล้านล้านตัว หรือน้ําหนัก องค์ประกอบในโครงข่ายประสาทเทียมที่ได้รับการปรับแต่งและเป็นแอนะล็อกกับไซแนปส์ในเซลล์ประสาท ของมนุษย์จริง
บางคนรวมถึง Cerebras ได้ชี้ให้เห็นถึงอนาคตของพารามิเตอร์หลายล้านล้านหรือหลายร้อยล้านล้านตัว และตูนก็สะท้อนความรู้สึก นั้น
"เมื่อคุณเพิ่มจํานวนพารามิเตอร์ และคุณเพิ่มปริมาณข้อมูล" Toon ตั้งข้อสังเกต "คุณกําลังเพิ่มการคํานวณโดยการคูณของสองส่วนนั้น และนั่นเป็นเหตุผลว่าทําไมจึงมีฟาร์ม GPU ขนาดใหญ่ที่กําลังพัฒนา"
ตัวเลข 100 ล้านล้านเป็นเป้าหมายมหัศจรรย์ชนิดหนึ่งเพราะเชื่อกันว่าเป็นจํานวนไซแนปส์ในสมองมนุษย์ดังนั้นจึงทําหน้าที่เป็นเกณฑ์มาตรฐาน
เห็นได้ชัดว่าไม่มีการโต้เถียงในเรื่องที่ใหญ่ขึ้นเรื่อย ๆ เนื่องจาก Graphcore และ Nvidia และทุกคนกําลังสร้างเครื่องจักรที่ทรงพลังมากขึ้นเรื่อย ๆ
อย่างไรก็ตาม Toon สนใจประเด็นที่สอง คําถามของวิทยาการคอมพิวเตอร์ว่ามีอะไรที่เป็นประโยชน์กับสิ่งนั้นได้หรือไม่ และสามารถเข้าใกล้สติปัญญา ของมนุษย์ได้หรือไม่
"ความท้าทายรอบ ๆ นั้น คุณรู้ไหม ถ้าคุณมีโมเดลที่มีพารามิเตอร์หนึ่งร้อยล้านล้านตัว นั่นจะทําให้มันฉลาดเหมือนคนหรือไม่" Toon กล่าว
มันเป็นปัญหาที่ไม่ใช่แค่การโยนทรานซิสเตอร์ในเรื่องนี้ แต่เป็นปัญหาของการออกแบบระบบ
"คุณรู้ไหมว่าเรารู้วิธีฝึกมันจริงหรือ" หมายถึง ฝึกโครงข่ายประสาทเทียมเมื่อมีน้ําหนัก 100 ล้านล้าน "เรารู้วิธีให้ข้อมูลที่ถูกต้องหรือไม่? เรารู้วิธีสร้างแบบจําลองนั้นในลักษณะที่ตรงกับสติปัญญาของมนุษย์จริงๆ หรือจะไร้ประสิทธิภาพแม้จะมีพารามิเตอร์อีกมากมาย"
กล่าวอีกนัยหนึ่ง "เราสามารถรู้วิธีสร้างเครื่องจักรที่ตรงกับสติปัญญาของสมองได้หรือไม่"
คําตอบหนึ่งที่เขาเสนอคือความเชี่ยวชาญ แบบจําลองของพารามิเตอร์หนึ่งร้อยล้านล้านอาจเก่งมากในบางสิ่งที่กําหนดไว้อย่างแคบ "ในระบบอย่าง [อัลกอริทึมของ DeepMind สําหรับการเล่น] Atari คุณมีข้อจํากัดเพียงพอที่คุณจะเข้าใจโลกนั้นได้" Toon กล่าว
ในทํานองเดียวกัน "บางทีเราอาจสร้างความเข้าใจได้เพียงพอ เช่น วิธีการทํางานของเซลล์ และ DNA เปลี่ยนเป็น RNA ผ่านโปรตีนได้อย่างไร ซึ่งคุณสามารถมีระบบการเรียนรู้เสริมแรงที่จะใช้ความเข้าใจนั้นเพื่อทํางาน เช่น โอเค แล้วฉันจะพับโปรตีนในลักษณะที่ถ้ามันยึดติดกับเซลล์นี้ได้อย่างไร และฉันสามารถสื่อสารกับเซลล์ได้ และสมมติว่าเซลล์นั้นเป็นเซลล์มะเร็ง ฉันสามารถติดยากับโปรตีนนั้นได้ และมันสามารถแก้ไขมะเร็งได้" Toon รํา พึง
"มันจะเหมือนกับเกม Atari ที่ DeepMind สร้างขึ้นซึ่งกลายเป็นยอดมนุษย์ ซึ่งเป็นระบบเหนือมนุษย์ในการฆ่ามะเร็ง — มันจะมีความเชี่ยวชาญ"
เขาแนะนําอีกวิธีหนึ่งคือ "ความเข้าใจทั่วไปเกี่ยวกับโลก" ซึ่งจะคล้ายกับวิธีที่ทารกมนุษย์เรียนรู้ โดย "การเปิดเผยข้อมูลจํานวนมหาศาลเกี่ยวกับโลก" ปัญหาไซแนปส์หลายล้านล้านล้านจะกลายเป็นหนึ่งในการสร้าง "ลําดับชั้น" Toon กล่าว
"มนุษย์สร้างลําดับชั้นของความเข้าใจโลก" เขากล่าว จากนั้นพวกเขา "สอดแทรก" โดยการเติมช่องว่าง "คุณใช้สิ่งที่คุณรู้เพื่อคาดการณ์และจินตนาการ"
"มนุษย์คาดการณ์ได้แย่มาก สิ่งที่เราเก่งกว่ามากคือการแทรกแซง คุณรู้ไหม มีบางส่วนที่ขาดหายไป — ฉันรู้สิ่งนี้ ฉันรู้สิ่งนี้ และนี่คือที่ไหนสักแห่งที่อยู่ตรงกลาง"
ความคิดของ Toon เกี่ยวกับลําดับชั้นสะท้อนให้เห็นถึงนักทฤษฎีบางคนในสาขานี้ รวมถึง Yann LeCun หัวหน้านักวิทยาศาสตร์ AI ของ Meta ซึ่งได้พูดถึงการเขียนลําดับชั้นของความเข้าใจในโครงข่ายประสาทเทียม ตูนระบุว่าเขาเห็นด้วยกับแง่มุมต่างๆ ของความคิด ของ LeCun
Toon กล่าวว่าความท้าทายของ AI กลายเป็นหนึ่งใน "คุณจะสร้างความเข้าใจที่ใหญ่พอเกี่ยวกับโลกที่คุณกําลังทําการแก้ไขมากขึ้นแล้วการคาดการณ์ได้อย่างไร"
เขาเชื่อว่าความท้าทายนั้นจะเป็นข้อมูลที่ "เบาบาง" มาก การอัปเดตพารามิเตอร์จากข้อมูลชิ้นเล็กๆ ที่ตามมา แทนที่จะเป็นการฝึกอบรมใหม่จํานวนมากในข้อมูลทั้งหมด
"แม้ในบางสิ่งที่คุณกําลังอัปเดตโลก คุณอาจต้องสัมผัสประเด็นต่างๆ ของความเข้าใจเกี่ยวกับโลก" Toon อธิบาย "มันอาจไม่ได้อยู่ด้วยกันอย่างเรียบร้อยในที่เดียว ข้อมูลยุ่งเหยิงและเบาบางมาก"
จากมุมมองของการคํานวณ "คุณจะจบลงด้วยการดําเนินการแบบขนานที่แตกต่างกันมากมาย" เขากล่าว "ซึ่งทั้งหมดนั้นเบาบางมาก เพราะพวกเขากําลังทํางานกับข้อมูลที่แตกต่างกัน"
แนวคิดทั้งสอง การแก้ไข และแบบจําลองยาฆ่ามะเร็งที่เฉพาะเจาะจงมากขึ้น สอดคล้องกับแนวคิดที่วางไว้โดย Simon Knowles CTO ของ Graphcore ผู้ร่วมก่อตั้ง Toon ซึ่งได้พูดคุยเกี่ยวกับ "การกลั่น" เครือข่ายประสาทเทียมที่ใหญ่มากและทั่วไปกว่าไปสู่สิ่งที่เฉพาะเจาะจง
พวกเขายังเป็นแนวคิดที่ดูเหมือนจะเล่นกับแนวคิดของซอฟต์แวร์ Poplar ที่ทําหน้าที่หลัก หากข้อมูลชิ้นใหม่เบาบาง เติมช่องว่าง และต้องดึงมาจากหลาย ๆ ที่ในหน่วยความจําเชื่อมโยง และในการดําเนินการกราฟจํานวนมาก Poplar ก็มีบทบาทสําคัญในฐานะตํารวจจราจรเพื่อกระจายข้อมูลและงานดังกล่าวควบคู่ไปกับชิป IPU
แม้จะวางสถานการณ์นั้น แต่ Toon ก็ไม่ได้มีอุดมการณ์ เขาตระหนักดีว่ายังไม่มีใครมีคําตอบอย่างแน่นอน "ฉันคิดว่ามีปรัชญาที่แตกต่างกันและแนวคิดที่แตกต่างกันเกี่ยวกับวิธีการทํางาน แต่ไม่มีใครรู้" "และนั่นคือสิ่งที่ผู้คนกําลังสํารวจ"
คําถามลึกซึ้งทั้งหมดจะได้รับคําตอบเมื่อใด อาจจะไม่เร็ว
"สิ่งที่น่าทึ่งเกี่ยวกับ AI คือ เราอยู่ห่างจาก AlexNet มาสิบปี และเรายังคงรู้สึกเหมือนเรากําลังสํารวจอยู่" เขากล่าว โดยอ้างถึงโครงข่ายประสาทเทียมที่มีชื่อเสียงในการแข่งขัน ImageNet ในปี 2012 โดยนํารูปแบบการเรียนรู้เชิงลึกของ AI มาสู่เบื้องหน้า
"ฉันมักจะใช้การเปรียบเทียบการเล่นเกมคอมพิวเตอร์เสมอ" Toon ผู้เขียนเกม Star Wars สําหรับคอมพิวเตอร์เครื่องแรกของเขา ซึ่งเป็นชุด 6502 จากผู้ผลิตคอมพิวเตอร์ "ที่ถูกลืมไปนาน" กล่าว "เราอาจยังอยู่ในขั้นตอนของ Pac Man เรายังไม่ได้เล่นเกมสามมิติ" เท่าที่วิวัฒนาการของ AI เขากล่าว
ระหว่างทางสู่เกม 3 มิติ "ฉันไม่คิดว่าจะมีฤดูหนาวของ AI" Toon ให้ความเห็น โดยอ้างถึงหลายครั้งในช่วงหลายทศวรรษที่เงินทุนได้เหือดแห้งและทําให้อุตสาหกรรม เสียหาย
"ความแตกต่างในวันนี้คือ มันได้ผล นี่เป็นเรื่องจริง" ในยุคก่อนหน้านี้ กับบริษัท AI เช่น Thinking Machines ในช่วงทศวรรษ 1980 "มันไม่ได้ผล เรามีข้อมูลไม่เพียงพอ เรามีการประมวลผลไม่เพียงพอ
"ตอนนี้ ชัดเจนแล้วว่ามันได้ผล มีจุดพิสูจน์ที่ชัดเจน มันนํามาซึ่งคุณค่ามหาศาล" Toon กล่าว "ผู้คนกําลังสร้างธุรกิจทั้งหมดอยู่เบื้องหลัง" "ฉันหมายถึง ByteDance และ TikTok เป็นบริษัทที่ขับเคลื่อนด้วย AI โดยพื้นฐานแล้ว และมันก็เป็นเพียงเรื่องของความเร็วในการแทรกซึมไปทั่วทั้งพื้นที่เทคโนโลยีและเข้าสู่องค์กร"
การต่อสู้ระหว่างยักษ์ใหญ่ด้านเทคโนโลยี เช่น ระหว่าง TikTok และ Instagram ของ Meta อาจถูกมองว่าเป็นการต่อสู้ของ AI การแข่งขันด้านอาวุธเพื่อให้ได้อัลกอริทึมที่ดีที่สุด
Graphcore มีเงินที่จะรับมือกับฤดูหนาวอย่างแน่นอน Toon ปฏิเสธที่จะให้ข้อมูลหรือรายได้ ของ Graphcore
"เรามีเงิน เรามีทีม" เขากล่าว "ฉันคิดว่าคุณสามารถมีเงินมากขึ้นและทีมที่ใหญ่ขึ้นได้เสมอ แต่คุณต้องทํางานภายใต้ข้อจํากัดที่มีอยู่" Graphcore มีพนักงาน 650 คน
ในขณะนี้ ฤดูหนาวของ AI ไม่ใช่ความท้าทาย ขายลูกค้าในคอมโบซอฟต์แวร์ที่เหนือกว่าของ Poplar และ IPU คือ ฟังดูเหมือนการต่อสู้ที่ยากลําบากกับ Nvidia ยักษ์ใหญ่อย่างแน่นอน
Meta เจ้าของ Facebook เพิ่งประกาศ "ซูเปอร์คอมพิวเตอร์การวิจัย" สําหรับ AI และ Metaverse ซึ่งสร้างขึ้นบน Nvidia GPU 6,080 ตัว ดูเหมือนว่าผู้คนต้องการ Nvidia มากขึ้นเรื่อยๆ
"ฉันคิดว่านั่นคือความท้าทายที่เรามีในฐานะธุรกิจ คือเราสามารถเปลี่ยนใจและความคิดของผู้คนได้หรือไม่" Toon กล่าว
พวกเขาทําได้ไหม?
"ระวังพื้นที่นี้" ตูนพูดและมุ่งหน้าไปยังสนามบิน
