AI chatbot ใหม่ของ Nvidia ทำงานบนพีซีของคุณและใช้งานได้ฟรี

มี GPU GeForce RTX 30 Series หรือสูงกว่าหรือไม่ แอปสาธิตนี้สามารถนำเสนอเนื้อหาส่วนบุคคลโดยไม่จำเป็นต้องเชื่อมต่ออินเทอร์เน็ต

GPU GeForce RTX 40 ซีรีส์ของ Nvidia

Nvidia ได้เปิดตัวเวอร์ชันสาธิตของแชทบอท AI ใหม่ที่ทำงานบนพีซีบางเครื่องที่มี GeForce RTX แอปสาธิตที่เรียกว่า Chat with RTX สามารถดาวน์โหลดได้ฟรี และช่วยให้ผู้ใช้สามารถเรียกใช้แชทบอท AI บนพีซีของตน โดยปรับเนื้อหาให้เป็นส่วนตัว

ขับเคลื่อนโดยซอฟต์แวร์ Nvidia TensorRT-LLM แอปสามารถสร้างเนื้อหาและสามารถฝึกเกี่ยวกับเนื้อหาที่ผู้ใช้เลือก รวมถึงไฟล์ .txt, .pdf, .doc/.docx และ .xml และแม้แต่ URL ไปยังวิดีโอ YouTube

หลังจากเลือกเนื้อหาที่จะฝึกบอทแล้ว ผู้ใช้สามารถถามคำถามส่วนตัวเกี่ยวกับเนื้อหาที่พวกเขาให้มาได้ ตัวอย่างเช่น บอทสามารถสรุปคำแนะนำทีละขั้นตอนในวิดีโอแสดงวิธีการจาก YouTube หรือบอกผู้ใช้ว่าตนมีแบตเตอรี่ประเภทใดในรายการช้อปปิ้ง

การฝึกอบรมบอตเกี่ยวกับเนื้อหาที่ผู้ใช้ต้องการทำให้ประสบการณ์เป็นส่วนตัวอย่างแท้จริง แต่ความจริงที่ว่าทุกอย่างเกิดขึ้นภายในเครื่องทำให้ข้อมูลผู้ใช้เป็นส่วนตัว การแชทด้วย RTX ให้การตอบสนองที่รวดเร็วในขณะที่รักษาข้อมูลผู้ใช้ทั้งหมดให้ปลอดภัย เนื่องจากไม่ต้องพึ่งพาบริการบนคลาวด์ ซึ่งหมายความว่าสามารถทำงานได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต

บอทต้องการ GPU Nvidia GeForce RTX ซีรีส์ 30 หรือสูงกว่า พร้อม VRAM อย่างน้อย 8 GB การแชทด้วย RTX ต้องใช้ Windows 10 หรือ 11 และไดรเวอร์ Nvidia GPU ล่าสุด

Nvidia กล่าวว่าซอฟต์แวร์ TensorRT-LLM รวมกับการดึงข้อมูลที่เพิ่มขึ้น (RAG) และการเร่งความเร็ว RTX ช่วยให้ Chat with RTX ให้คำตอบที่เกี่ยวข้องโดยใช้ไฟล์ในเครื่องเป็นชุดข้อมูลและเชื่อมต่อกับ LLM แบบโอเพ่นซอร์สเช่น Mistral และ Llama 2