ข้อมูลสังเคราะห์สามารถแก้ปัญหาความเป็นส่วนตัวของ AI ได้หรือไม่? บริษัทนี้กำลังเดิมพันอยู่

AI ส่วนใหญ่ได้เปิดตัวตัวสร้างข้อความสังเคราะห์เพื่อปกป้องข้อมูลของลูกค้า มันทำงานอย่างไร และต้องกังวลเกี่ยวกับการล่มสลายของโมเดลหรือไม่

เนื่องจากบริษัทหลายแห่งลงทุนใน generative AI (gen AI) สำหรับกรณีการใช้งานและผลิตภัณฑ์ตามความต้องการ ข้อมูลที่เป็นกรรมสิทธิ์จึงมีความสำคัญมากขึ้นในการฝึกอบรมโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งแตกต่างจาก ChatGPT ซึ่งได้รับการฝึกฝนเกี่ยวกับจุดข้อมูลสาธารณะหลายพันล้านจุด เช่น อีเมล สคริปต์ โซเชียลมีเดีย เอกสาร ที่คัดลอกมาจากอินเทอร์เน็ต AI รุ่นองค์กรมักจะจำเป็นต้องระบุให้กับข้อมูลลูกค้าของธุรกิจนั้น

อย่างไรก็ตาม ข้อมูลจากลูกค้าจริงอาจมีข้อมูลส่วนบุคคลที่สามารถระบุตัวตนได้ (PII) ทำให้มีความเสี่ยงต่อความเป็นส่วนตัวในการใช้งาน นั่นคือสิ่งที่บริษัทข้อมูลสังเคราะห์ที่มีโครงสร้างซึ่งส่วนใหญ่เป็น AI เข้ามามีบทบาท

เมื่อวันอังคารที่ผ่านมา บริษัทได้เปิดตัวฟังก์ชันข้อความสังเคราะห์ที่ทำให้กระบวนการสร้างข้อมูลสังเคราะห์เป็นอัตโนมัติ และรักษารูปแบบของชุดข้อมูลดั้งเดิมของผู้ใช้

ด้วยการใช้ข้อมูลสังเคราะห์ในการฝึกโมเดล AI ส่วนใหญ่มีเป้าหมายเพื่อช่วยให้ธุรกิจหลีกเลี่ยงการเสี่ยงต่อความเป็นส่วนตัวโดยไม่ต้องเสียสละข้อมูลเชิงลึกของลูกค้า เช่น อีเมล บันทึกการสนับสนุน และการแลกเปลี่ยนแชทบอทที่สามารถเปิดเผยได้ จากข้อมูลของบริษัท ข้อมูลสังเคราะห์ยังสามารถแสดงถึงความหลากหลายได้มากกว่าข้อมูลต้นฉบับ

นอกเหนือจากความเป็นส่วนตัวแล้ว กรณีการใช้งานอื่นๆ ยังรวมถึงการปรับสมดุลชุดข้อมูลเพื่อปรับแต่งให้เข้ากับโมเดลหรือลบอคติ และสร้างข้อมูลจำลองสำหรับการทดสอบซอฟต์แวร์

มันทำงานอย่างไร

บริษัทต่างๆ อัปโหลดชุดข้อมูลที่เป็นกรรมสิทธิ์ของตนไปยังเครื่องกำเนิด Mostly AI ซึ่งเป็นชุดรวมที่นำกลับมาใช้ใหม่ได้ซึ่งมีการป้องกันความเป็นส่วนตัว ซึ่งรวมถึงข้อมูลเมตาจากข้อมูลต้นฉบับ ผู้ใช้สามารถอัปโหลดข้อมูลจากอุปกรณ์ภายในเครื่องหรือแหล่งภายนอกอื่น และปรับแต่งตัวสร้างบนแพลตฟอร์มของ Mostly AI

ส่วนใหญ่เป็นแพลตฟอร์มของ AI ซึ่งแสดงในการสาธิตที่ส่งไปยัง ZDNET

เมื่อพวกเขายืนยันการกำหนดค่าและประเภทการเข้ารหัสที่ถูกต้องแล้ว ผู้ใช้จะเลือกจากโมเดล AI ส่วนใหญ่ที่ต้องการใช้ จากนั้นเลือกจากโมเดลภาษาต่างๆ รวมถึงตัวเลือกที่ได้รับการฝึกอบรมล่วงหน้าจาก HuggingFace

สิ่งที่เกิดขึ้นคือข้อมูลเวอร์ชันสังเคราะห์ที่ได้รับการคุ้มครองความเป็นส่วนตัว ซึ่งยังคงรักษารูปแบบทางสถิติดั้งเดิมไว้

การเลือกรุ่น

การตั้งค่านี้ช่วยฝึกเครื่องกำเนิดไฟฟ้าขององค์กร จากนั้นผู้ใช้สามารถเปรียบเทียบข้อมูลสังเคราะห์และข้อมูลจริงโดยใช้รายงานของแบบจำลองเพื่อให้มั่นใจในความถูกต้อง

AI ส่วนใหญ่กล่าวว่าชุดข้อมูลมีลักษณะ "เหมือนจริงกับข้อมูลลูกค้าดั้งเดิมของบริษัท โดยมีรายละเอียดมากพอๆ กัน แต่ไม่มีจุดข้อมูลส่วนบุคคลดั้งเดิม ช่วยให้บริษัทต่างๆ ปฏิบัติตามกฎระเบียบการคุ้มครองความเป็นส่วนตัว เช่น GDPR และ CCPA" บริษัทเสริมว่าข้อความสังเคราะห์ "ให้การปรับปรุงประสิทธิภาพได้มากถึง 35% เมื่อเทียบกับข้อความที่สร้างขึ้นโดยแจ้งให้ GPT-4o-mini ไม่ให้หรือเพียงไม่กี่ตัวอย่างในโลกแห่งความเป็นจริง"

ข้อมูลสังเคราะห์คืออนาคตของ AI จริงหรือ?

รายงานของ AGartner เมื่อเดือนเมษายนพบว่าข้อมูลสังเคราะห์มีศักยภาพที่ยังไม่เกิดขึ้นจริงในด้านวิศวกรรมซอฟต์แวร์ แต่แนะนำให้ปรับใช้อย่างระมัดระวัง การสร้างข้อมูลสังเคราะห์อาจต้องใช้ทรัพยากรมาก เนื่องจากการใช้งานอย่างมีประสิทธิภาพจำเป็นต้องมีขั้นตอนการทดสอบเฉพาะสำหรับแต่ละกรณีการใช้งาน

“วันนี้ การฝึกอบรม AI กำลังถึงจุดสูงสุด เนื่องจากโมเดลต่างๆ หมดแหล่งข้อมูลสาธารณะ และให้ผลตอบแทนที่ลดลง” Tobias Hann ซีอีโอด้าน AI ส่วนใหญ่กล่าวในข่าวประชาสัมพันธ์ "เพื่อควบคุมข้อมูลคุณภาพสูงที่เป็นกรรมสิทธิ์ ซึ่งให้คุณค่าและศักยภาพมากกว่าข้อมูลสาธารณะที่เหลืออยู่ในปัจจุบัน องค์กรระดับโลกจะต้องก้าวกระโดดและใช้ประโยชน์จากข้อมูลสังเคราะห์ทั้งที่มีโครงสร้างและไร้โครงสร้าง เพื่อฝึกอบรมและปรับใช้โซลูชัน AI เจนเนอเรชันที่กำลังจะมีขึ้นอย่างปลอดภัย "

ข้อกังวลทั่วไปคือฟองสบู่ AI กำลังจะแตกในส่วนหนึ่งเนื่องจากโมเดลต่างๆ กำลังจะหมดข้อมูลที่เปิดเผยต่อสาธารณะที่จะนำเข้าเข้าไป แม้ว่าจะไม่เป็นความจริงในทางเทคนิค กิจกรรมใดๆ ของมนุษย์สามารถเป็นข้อมูลได้ แต่ก็อาจไม่ได้รับการเข้ารหัส รวบรวม จัดโครงสร้าง และฟรี ความต้องการข้อมูลที่ใช้งานได้มากขึ้นเพื่อฝึกโมเดลนั้นมีอยู่จริง ท้ายที่สุดแล้ว การสร้างข้อมูลสังเคราะห์ได้ดีนั้นง่ายกว่ามาก (และถูกกว่า) มากกว่าการแปลงหน้ากระดาษโน้ตที่เขียนด้วยลายมือยุ่งๆ ให้เป็นดิจิทัล EvenMeta ใช้ทั้งข้อมูลของมนุษย์และข้อมูลสังเคราะห์ในการฝึก Llama 3.1 405B

แต่สิ่งที่เกี่ยวกับการล่มสลายของแบบจำลอง แนวคิดที่ว่าแบบจำลองจะเสื่อมลงเมื่อพวกเขาได้รับข้อมูลสังเคราะห์มากเกินไป

AI ส่วนใหญ่กล่าวในอีเมลถึง ZDNET ว่าจะหลีกเลี่ยงความเป็นไปได้นี้ เนื่องจาก "ข้อมูลสังเคราะห์ถูกสร้างขึ้นเพียงครั้งเดียวและนำไปใช้กับงานดาวน์สตรีมโดยตรง" แทนที่จะใช้เพื่อฝึกโมเดลซ้ำๆ

ยังคงต้องรอดูต่อไปว่าการใช้ข้อมูลสังเคราะห์ที่เพิ่มขึ้นในอุตสาหกรรมต่างๆ จะสร้างภัยคุกคามในภาพรวมของการล่มสลายของโมเดลหรือไม่ ก่อนหน้านั้น องค์กรที่สนใจเครื่องมือของ Mostly AI สามารถเยี่ยมชมเว็บไซต์ของตนได้