พิมพ์เขียวของ IBM สําหรับการเปลี่ยนแปลงอุตสาหกรรมใช้ประโยชน์จาก AI, 5G และการทํางานร่วมกันอย่างไร

แอปพลิเคชันกําลังแพร่กระจาย ความซับซ้อนของระบบคลาวด์กําลังระเบิด และ Kubernetes กําลังแพร่หลายในฐานะรากฐานสําหรับการปรับใช้แอปพลิเคชันในระบบคลาวด์ ฟังดูเหมือนงานเพิ่มประสิทธิภาพที่สุกงอมสําหรับการเรียนรู้ของเครื่อง และ StormForge กําลังดําเนินการกับสิ่งนั้น

ระบบคลาวด์ได้กลายเป็นมาตรฐานโดยพฤตินัยสําหรับการปรับใช้แอปพลิเคชัน Kubernetes ได้กลายเป็นมาตรฐานโดยพฤตินัยสําหรับการปรับใช้แอปพลิเคชัน การปรับแต่งแอปพลิเคชันที่ปรับใช้บน Kubernetes อย่างเหมาะสมที่สุดเป็นเป้าหมายที่เคลื่อนไหว และนั่นหมายความว่าแอปพลิเคชันอาจมีประสิทธิภาพต่ําหรือใช้จ่ายมากเกินไป ปัญหานั้นสามารถแก้ไขได้โดยใช้ระบบอัตโนมัติหรือไม่?

นั่นเป็นคําถามที่สมเหตุสมผลมากที่จะถาม เป็นคําถามที่คนอื่น ถามเช่นกัน เนื่องจาก Kubernetes มีการพัฒนาและซับซ้อนมากขึ้นในการทําซ้ําแต่ละครั้ง และตัวเลือกสําหรับการปรับใช้บนระบบคลาวด์กําลังแพร่หลาย การปรับแต่งการปรับใช้และการทํางานของแอปพลิเคชันอย่างละเอียดจึงยากขึ้นเรื่อยๆ นั่นคือข่าวร้าย

ข่าวดีก็คือ ตอนนี้เรามาถึงจุดที่ Kubernetes มีมาระยะหนึ่งแล้ว และแอปพลิเคชันจํานวนมากได้ใช้งานมาตลอดอายุการใช้งาน นั่นหมายความว่ามีองค์ความรู้ -- และที่สําคัญคือข้อมูล -- ที่สะสมไว้ ในทางกลับกัน สิ่งนี้หมายความว่าควรเป็นไปได้ที่จะใช้แมชชีนเลิร์นนิงเพื่อเพิ่มประสิทธิภาพการปรับใช้แอปพลิเคชันบน Kubernetes

StormForge ทําเช่นนั้นมาตั้งแต่ปี 2016 จนถึงตอนนี้ พวกเขาได้กําหนดเป้าหมายสภาพแวดล้อมก่อนการปรับใช้ ณ วันนี้ พวกเขายังกําหนดเป้าหมาย Kubernetes ในการผลิต เราได้พูดคุยกับ CEO และผู้ก่อตั้ง Matt Provo เพื่อหารือเกี่ยวกับรายละเอียดของข้อเสนอของ StormForge

การเพิ่มประสิทธิภาพ Kubernetes ด้วยแมชชีนเลิร์นนิ่ง

เมื่อ Provo ก่อตั้ง StormForge ในปี 2016 หลังจากดํารงตําแหน่งผู้จัดการผลิตภัณฑ์ที่ Apple มาเป็นเวลานาน เป้าหมายคือการเพิ่มประสิทธิภาพการใช้ไฟฟ้าใน HVAC และอุปกรณ์การผลิตขนาดใหญ่โดยใช้แมชชีนเลิร์นนิ่ง บริษัทใช้ Docker สําหรับการปรับใช้ และเมื่อถึงจุดหนึ่งในช่วงปลายปี 2018 พวกเขาได้ยกและเปลี่ยนไปใช้ Kubernetes นี่คือตอนที่พวกเขาพบกรณีการใช้งานที่สมบูรณ์แบบสําหรับความสามารถหลักของตนตามที่ Provo กล่าวไว้

การเข้าซื้อกิจการหนึ่งครั้ง เงินทุน 68 ล้านดอลลาร์ และลูกค้าจํานวนมากในภายหลัง StormForge ได้ประกาศ Optimize Live ซึ่งเป็นส่วนขยายล่าสุดของแพลตฟอร์ม แพลตฟอร์มนี้ใช้แมชชีนเลิร์นนิงเพื่อปรับปรุงประสิทธิภาพของแอปพลิเคชันและประสิทธิภาพด้านต้นทุนในสภาพแวดล้อมการผลิต Cloud Native อย่างชาญฉลาดและโดยอัตโนมัติ

สิ่งแรกที่ควรทราบคือแพลตฟอร์มของ StormForge ได้ทําเช่นนั้นสําหรับสภาพแวดล้อมก่อนการผลิตและไม่ใช่การผลิต แนวคิดคือผู้ใช้ระบุพารามิเตอร์ที่ต้องการปรับให้เหมาะสม เช่น CPU หรือการใช้หน่วยความจํา

จากนั้น StormForge จะหมุนแอปพลิเคชันเวอร์ชันต่างๆ และกลับไปที่ตัวเลือกการกําหนดค่าของผู้ใช้เพื่อปรับใช้แอปพลิเคชัน StormForge อ้างว่าโดยทั่วไปแล้วสิ่งนี้จะส่งผลให้ประหยัดต้นทุนได้ระหว่าง 40% ถึง 60% และประสิทธิภาพเพิ่มขึ้นระหว่าง 30% ถึง 50%

อย่างไรก็ตาม สิ่งสําคัญคือต้องทราบด้วยว่านี่เป็นปัญหาการเพิ่มประสิทธิภาพหลายวัตถุประสงค์ สิ่งนี้หมายความว่าในขณะที่โมเดลแมชชีนเลิร์นนิงของ StormForge จะพยายามค้นหาวิธีแก้ปัญหาที่สร้างสมดุลระหว่างเป้าหมายต่างๆ ที่ตั้งไว้ แต่โดยทั่วไปแล้วจะไม่สามารถเพิ่มประสิทธิภาพทั้งหมดพร้อมกันได้

ยิ่งพารามิเตอร์ที่ต้องเพิ่มประสิทธิภาพมากเท่าไหร่ ปัญหาก็จะยิ่งยากขึ้นเท่านั้น โดยปกติผู้ใช้จะให้พารามิเตอร์สูงสุด 10 รายการ สิ่งที่ StormForge เห็น Provo กล่าวว่าคือความต่อเนื่องด้านต้นทุนและประสิทธิภาพ

ในสภาพแวดล้อมการผลิตกระบวนการจะคล้ายคลึงกัน แต่มีความแตกต่างที่สําคัญบางประการ StormForge เรียกสิ่งนี้ว่าด้านการสังเกตการณ์ของแพลตฟอร์ม มีการใช้ข้อมูลการวัดและส่งข้อมูลทางไกลและการสังเกตผ่านการผสานรวมกับโซลูชัน APM (Application Performance Monitoring) เช่น Prometheus และ Datadog

จากนั้น Optimize Live จะให้คําแนะนําแบบเกือบเรียลไทม์ และผู้ใช้สามารถเลือกที่จะนําไปใช้ด้วยตนเอง หรือใช้สิ่งที่ Provo เรียกว่า "ตั้งค่าแล้วลืม" นั่นคือ ให้แพลตฟอร์มเลือกที่จะใช้คําแนะนําเหล่านั้น ตราบใดที่ตรงตามเกณฑ์ที่ผู้ใช้กําหนด:

"เป้าหมายคือการให้ความยืดหยุ่นเพียงพอและประสบการณ์ผู้ใช้ที่ช่วยให้นักพัฒนาสามารถระบุสิ่งที่พวกเขาสนใจได้ นี่คือวัตถุประสงค์ที่ฉันต้องอยู่ภายใน และนี่คือเป้าหมายของฉัน และจากจุดนั้นเป็นต้นไป แมชชีนเลิร์นนิงจะเริ่มเข้ามาและเข้าครอบงํา เราจะให้ตัวเลือกการกําหนดค่าหลายสิบรายการที่ตรงตามหรือเกินกว่าวัตถุประสงค์เหล่านั้น" Provo กล่าว

เส้นเล็ก ๆ กับ Kubernetes ในการผลิต

มีเส้นแบ่งระหว่างการเรียนรู้และการสังเกตจากข้อมูลการผลิต และการปรับแต่งสดในการผลิต Provo กล่าวต่อไป เมื่อคุณข้ามเส้นนั้น ระดับความเสี่ยงจะไม่สามารถจัดการและรักษาไว้ได้ และผู้ใช้ StormForge คงไม่ต้องการสิ่งนั้น นั่นคือคําตอบที่ชัดเจนของพวกเขา สิ่งที่ผู้ใช้นําเสนอคือตัวเลือกในการเลือกตําแหน่งที่ยอมรับความเสี่ยงและสิ่งที่พวกเขาพอใจจากมุมมองของระบบอัตโนมัติ

ในขั้นตอนก่อนการผลิต ตัวเลือกการกําหนดค่าต่างๆ สําหรับแอปพลิเคชันจะได้รับการทดสอบโหลดผ่านซอฟต์แวร์ที่สร้างขึ้นเพื่อจุดประสงค์นี้ ผู้ใช้สามารถนําโซลูชันการทดสอบประสิทธิภาพของตนเองมาใช้ ซึ่ง StormForge จะรวมเข้าด้วยกัน หรือใช้โซลูชันการทดสอบประสิทธิภาพของ StormForge เอง ซึ่งถูก นํามาใช้ผ่านการเข้าซื้อกิจการ

การปรับใช้แอปพลิเคชันบน Kubernetes ให้เหมาะสมเป็นเป้าหมายหลายวัตถุประสงค์ รูปภาพ: StormForge

ในอดีตนี่เป็นอินพุตข้อมูลที่ใหญ่ที่สุดของ StormForge สําหรับการเรียนรู้ของเครื่อง Provo กล่าว อย่างไรก็ตาม การเริ่มต้นนั้นไม่ใช่เรื่องง่าย StormForge อุดมไปด้วยความสามารถ แต่มีข้อมูลไม่ดีตามที่ Provo กล่าวไว้

เพื่อบูตสแตรปแมชชีนเลิร์นนิง StormForge ได้มอบข้อเสนอที่ดีให้กับลูกค้ารายใหญ่รายแรกเพื่อแลกกับสิทธิ์ในการใช้ข้อมูลจากกรณีการใช้งานของพวกเขา ซึ่งได้ผลดี และตอนนี้ StormForge ได้สร้าง IP เกี่ยวกับแมชชีนเลิร์นนิงสําหรับปัญหาการเพิ่มประสิทธิภาพหลายวัตถุประสงค์

โดยเฉพาะอย่างยิ่งเกี่ยวกับการเพิ่มประสิทธิภาพ Kubernetes ตามที่ Provo ตั้งข้อสังเกตว่ารากฐานอยู่ที่นั่นและสิ่งที่ต้องทําในการปรับแต่งให้เข้ากับกรณีการใช้งานเฉพาะแต่ละกรณีและพารามิเตอร์ใหม่แต่ละตัวใช้เวลาไม่กี่นาทีโดยไม่ต้องปรับแต่งด้วยตนเองเพิ่มเติม

มีการเรียนรู้เล็กน้อยที่เกิดขึ้น แต่โดยรวมแล้ว StormForge มองว่านี่เป็นสิ่งที่ดี ยิ่งแพลตฟอร์มสามารถพบสถานการณ์และสถานการณ์ได้มากเท่าใด ประสิทธิภาพก็จะยิ่งดีขึ้นเท่านั้น

ในสถานการณ์การผลิต StormForge อยู่ในแง่หนึ่งที่แข่งขันกับ Kubernetes เอง Kubernetes มีความสามารถในการปรับขนาดอัตโนมัติ บอทในแนวตั้งและแนวนอน ด้วย VPA (Vertical Pod Autoscaler) และ HPA (Horizontal Pod Autoscaler)

StormForge ทํางานร่วมกับ VPA และกําลังวางแผนที่จะทํางานร่วมกับ HPA ด้วย เพื่อให้สิ่งที่ Provo เรียกว่าการปรับขนาดอัจฉริยะแบบสองทาง StormForge วัดการเพิ่มประสิทธิภาพและคุณค่าที่มีให้เทียบกับสิ่งที่ VPA และ HPA แนะนําสําหรับผู้ใช้ภายในสภาพแวดล้อม Kubernetes

แม้แต่ในสถานการณ์การผลิต Provo กล่าวว่าพวกเขาก็เห็นการประหยัดต้นทุน ไม่สูงเท่ากับตัวเลือกก่อนการผลิต แต่ก็ยังประหยัดต้นทุนได้ 20% ถึง 30% และปรับปรุงประสิทธิภาพ 20% โดยทั่วไป

Provo และ StormForge ไปไกลถึงขั้นเสนอการรับประกันการลดขยะบนคลาวด์ StormForge รับประกันการลดต้นทุนทรัพยากรแอปพลิเคชันระบบคลาวด์ Kubernetes ได้เพียง 30% หากเงินออมไม่ตรงกับ 30% ที่สัญญาไว้ Provo จะจ่ายส่วนต่างสําหรับบิลคลาวด์ของคุณเป็นเวลา 1 เดือน (สูงสุด $50,000/ลูกค้า) และบริจาคจํานวนเงินที่เทียบเท่ากับองค์กรการกุศลสีเขียวที่คุณเลือก

เมื่อถูกถาม Provo กล่าวว่าเขาไม่จําเป็นต้องให้เกียรติคํามั่นสัญญานั้นแม้แต่ครั้งเดียวจนถึงปัจจุบัน เมื่อผู้คนย้ายไปใช้ระบบคลาวด์มากขึ้นเรื่อย ๆ และใช้ทรัพยากรมากขึ้น จึงมีความเชื่อมโยงโดยตรงกับขยะบนคลาวด์ ซึ่งเกี่ยวข้องกับการปล่อยก๊าซคาร์บอนไดออกไซด์ด้วย Provo มองว่า StormForge มีด้านที่แข็งแกร่งและมุ่งเน้นภารกิจ