OpenAI ช่วยให้นักพัฒนาสร้างแอปเสียงแบบเรียลไทม์ได้ในราคาประหยัด

การส่งและรับเสียงแบบเรียลไทม์จะทำให้นักพัฒนาเสียค่าใช้จ่ายเป็นสองเท่าของโมเดลภาษาขนาดใหญ่แบบข้อความเท่านั้น

วันนักพัฒนาประจำปีของ OpenAI จัดขึ้นในวันพุธที่ซานฟรานซิสโก โดยมีการประกาศผลิตภัณฑ์และฟีเจอร์มากมาย หัวใจสำคัญของงานคือการแนะนำบริษัทเกี่ยวกับ Application Programming Interface (API) แบบเรียลไทม์

คุณสมบัติสำหรับนักพัฒนาทำให้สามารถส่งและรับอินพุตและเอาท์พุตภาษาพูดระหว่างการดำเนินการอนุมาน หรือคาดการณ์ด้วยโมเดลภาษาขนาดใหญ่ (LLM) ที่ใช้งานจริง หวังว่าการโต้ตอบประเภทนี้จะช่วยให้การสนทนาแบบเรียลไทม์ระหว่างบุคคลกับโมเดลภาษามีความลื่นไหลมากขึ้น

ความสามารถนี้ยังมาพร้อมกับความพรีเมี่ยมที่หนักหน่วงอีกด้วย ปัจจุบัน OpenAI กำหนดราคาโมเดลภาษาขนาดใหญ่ GPT-4o ซึ่งเป็นโมเดลที่สร้างพื้นฐานสำหรับ API แบบเรียลไทม์ที่ 2.50 ดอลลาร์ต่อล้านโทเค็นของข้อความอินพุต และ 10 ดอลลาร์ต่อล้านโทเค็นเอาท์พุต

ต้นทุนอินพุตและเอาต์พุตแบบเรียลไทม์คืออย่างน้อยสองเท่าของอัตราดังกล่าว โดยขึ้นอยู่กับโทเค็นข้อความและเสียง เนื่องจาก GPT-4o ต้องการอินพุตและเอาต์พุตทั้งสองประเภท โทเค็นอินพุตและเอาต์พุตสำหรับ GPT-4o เมื่อใช้ API แบบเรียลไทม์มีราคา 5 และ 20 ดอลลาร์สหรัฐฯ ตามลำดับต่อล้านโทเค็น

ตารางงานยุ่งในวันนักพัฒนา

สำหรับโทเค็นเสียง ราคาอยู่ที่ 100 เหรียญสหรัฐฯ ต่อโทเค็นสัญญาณเสียงหนึ่งล้านเหรียญ และ 200 เหรียญสหรัฐฯ ต่อโทเค็นเอาต์พุตเสียงหนึ่งล้านเหรียญ

OpenAI ตั้งข้อสังเกตว่าด้วยสถิติมาตรฐานสำหรับการสนทนาด้วยเสียง ราคาของโทเค็นเสียง "เท่ากับประมาณ 0.06 ดอลลาร์สหรัฐฯ ต่อนาทีของอินพุตเสียง และ 0.24 ดอลลาร์ต่อนาทีของเอาต์พุตเสียง"

เอกสารราคาของ OpenAI สำหรับการเรียกใช้ฟังก์ชัน API แบบเรียลไทม์ในการอนุมานโมเดลภาษาขนาดใหญ่ GPT-4o

OpenAI ยกตัวอย่างวิธีการใช้เสียงแบบเรียลไทม์ใน AI เชิงสร้างสรรค์ รวมถึงโค้ชด้านสุขภาพอัตโนมัติที่ให้คำแนะนำแก่บุคคล และครูสอนภาษาที่สามารถมีส่วนร่วมในการสนทนากับนักเรียนเพื่อฝึกฝนภาษาใหม่

ในระหว่างการประชุมนักพัฒนา OpenAI เสนอวิธีการลดต้นทุนทั้งหมดให้กับนักพัฒนา ด้วยการแคชที่รวดเร็ว ซึ่งเป็นการใช้โทเค็นซ้ำกับอินพุตที่ส่งไปยังโมเดลก่อนหน้านี้ วิธีการดังกล่าวจะลดราคาโทเค็นข้อความอินพุต GPT-4o ลงครึ่งหนึ่ง

นอกจากนี้ วันพุธที่เปิดตัวยังเป็น "การกลั่น" LLM ซึ่งช่วยให้นักพัฒนาใช้ข้อมูลจากโมเดลที่ใหญ่กว่าเพื่อฝึกโมเดลที่เล็กกว่าได้

นักพัฒนาจับอินพุตและเอาท์พุตของหนึ่งในโมเดลภาษาที่มีความสามารถมากกว่าของ OpenAI เช่น GPT-4o โดยใช้เทคนิคที่เรียกว่า "การเสร็จสิ้นที่เก็บไว้" ความสมบูรณ์ที่เก็บไว้เหล่านั้นจะกลายเป็นข้อมูลการฝึกเพื่อ "ปรับแต่ง" โมเดลขนาดเล็ก เช่น GPT-4o mini

OpenAI เรียกเก็บเงินจากบริการกลั่นเพื่อลดงานที่ต้องทำซ้ำๆ จำนวนมากซึ่งนักพัฒนาต้องการในการฝึกโมเดลขนาดเล็กจากโมเดลขนาดใหญ่

บล็อกของบริษัทเกี่ยวกับเรื่องนี้กล่าวว่า "จนถึงขณะนี้ การกลั่นเป็นกระบวนการที่มีหลายขั้นตอนและเสี่ยงต่อข้อผิดพลาด ซึ่งกำหนดให้นักพัฒนาต้องจัดการการปฏิบัติงานหลายอย่างด้วยตนเองผ่านเครื่องมือที่ขาดการเชื่อมต่อ ตั้งแต่การสร้างชุดข้อมูลไปจนถึงการปรับแต่งแบบจำลองและการวัดประสิทธิภาพ การปรับปรุง”

การกลั่นมาเพิ่มเติมจากบริการปรับแต่งอย่างละเอียดที่มีอยู่ของ OpenAI ความแตกต่างคือคุณสามารถใช้คู่อินพุต-เอาท์พุตของรุ่นที่มีขนาดใหญ่กว่าเป็นข้อมูลการปรับแต่งได้ สำหรับบริการปรับแต่งแบบละเอียด บริษัทวันพุธได้เพิ่มการปรับแต่งรูปภาพแบบละเอียด นักพัฒนาซอฟต์แวร์ส่งชุดข้อมูลของรูปภาพ เช่นเดียวกับที่ทำกับข้อความ เพื่อสร้างโมเดลที่มีอยู่ เช่น GPT-4o ให้มีความเฉพาะเจาะจงมากขึ้นสำหรับงานหรือขอบเขตความรู้

ตัวอย่างในทางปฏิบัติคือการทำงานของบริการส่งอาหาร Grab บริษัทใช้รูปภาพป้ายถนนในโลกแห่งความเป็นจริงเพื่อให้ GPT-4o ทำแผนที่เส้นทางการจัดส่งของบริษัท “Grab สามารถปรับปรุงความแม่นยำในการนับเลนได้ 20% และการแปลป้ายจำกัดความเร็วได้ 13% เมื่อเทียบกับรุ่น GPT-4o พื้นฐาน ช่วยให้ดำเนินการจัดทำแผนที่โดยอัตโนมัติได้ดีขึ้นจากกระบวนการที่ต้องทำด้วยตนเองก่อนหน้านี้” OpenAI กล่าว

ราคาจะขึ้นอยู่กับการตัดแต่ละภาพที่นักพัฒนาส่งเป็นโทเค็น ซึ่งมีราคาอยู่ที่ 3.75 ดอลลาร์ต่อโทเค็นอินพุตหนึ่งล้านรายการ และ 15 ดอลลาร์ต่อโทเค็นเอาต์พุตหนึ่งล้าน ซึ่งเป็นราคาเดียวกับการปรับแต่งแบบละเอียดมาตรฐาน สำหรับโมเดลอิมเมจการฝึก ค่าใช้จ่ายอยู่ที่ 25 เหรียญสหรัฐต่อล้านโทเค็น