Nvidia เปิดตัวโมเดล open-weight สำหรับเอเจนต์องค์กรและการทำงานบนพีซี โดย Nemotron 3.5 Super VL เป็นโมเดลขนาด 120-billion-parameter ที่เน้นงานระดับองค์กร เช่น วิเคราะห์เอกสาร บัญชีการเงิน และเคลมประกันสุขภาพ
ฝั่งพีซีมีโมเดลตระกูล Bolt สำหรับรันภายในเครื่องบน AI PC ที่ใช้ชิป Nvidia RTX Spark และเวิร์กสเตชัน DGX Spark รุ่น Nemotron 3.5 Bolt 74B-A9B 24GB รองรับงานหลายขั้นตอน การเรียกใช้เครื่องมือ และการท่องเว็บ ส่วน Bolt E4B เน้นเอเจนต์สนทนา
Super VL กับ Bolt 74B-A9B เปิดให้ใช้งานแล้ว ขณะที่ Bolt E4B จะตามมาภายในเดือนนี้
รุ่นใหม่ของ Nvidia ที่เปิดตัวครั้งนี้
Nemotron 3.5 Super VL เป็นโมเดลขนาด 120-billion-parameter สำหรับเอเจนต์ในองค์กร โดย Nvidia ระบุว่าให้ความแม่นยำด้านการทำตามคำสั่งและใช้เครื่องมือใกล้เคียง Nemotron 3 Ultra แม้ใช้พารามิเตอร์น้อยกว่า
ฝั่งเครื่องเล็กมี Bolt 74B-A9B 24GB สำหรับงานเอเจนต์ในเครื่อง และ Bolt E4B ที่เน้นเอเจนต์สนทนา ตอนนี้ Super VL กับ Bolt 74B-A9B เปิดให้ใช้งานแล้ว ส่วน Bolt E4B จะมาในช่วงปลายเดือนนี้
เมื่อเอเจนต์ต้องทำงานกับข้อมูลส่วนตัวโดยไม่ส่งขึ้นคลาวด์
ถ้าเอเจนต์ต้องช่วยจัดการข้อมูลครอบครัว สุขภาพ การเงิน หรือเอกสารภายใน ความกังวลเรื่องความเป็นส่วนตัวก็เลี่ยงได้ยาก โดยเฉพาะเมื่อข้อมูลเหล่านี้ถูกส่งไปประมวลผลบนคลาวด์
แนวทางของ Nvidia คือให้รันเอเจนต์บนโครงสร้างพื้นฐานขององค์กรเอง พร้อมเปิดให้ post-train Super VL ด้วยข้อมูลของตัวเองได้ ส่วนผู้ใช้พีซีสามารถมอบหมายงานประจำให้โมเดลที่รันในเครื่อง โดยไม่ต้องส่งงานขึ้นคลาวด์.
Super VL และ Bolt อยู่ตรงไหนในตระกูล Nemotron
ตระกูล Nemotron ครอบคลุมงานตั้งแต่มัลติโมดัล การให้เหตุผล การเขียนโค้ด คณิตศาสตร์ ไปจนถึงระบบอัตโนมัติสำหรับองค์กร โดย Super VL คือรุ่นใหญ่สำหรับงาน agent ในองค์กร มี 120-billion parameters และเน้น instruction-following กับ tool-use
ส่วน Bolt คือสายเบาสำหรับรันบนเครื่องโลคัล ทั้ง AI PC ที่ใช้ชิป RTX Spark และ workstation DGX Spark รุ่น Bolt 74B-A9B 24GB รองรับการให้เหตุผลหลายขั้น การเรียกใช้เครื่องมือ และ web browsing ขณะที่ Bolt E4B เน้นงาน conversational agents.
จาก Nemotron 3 Ultra สู่ Super VL
Super VL เป็นโมเดลสำหรับ agents ในองค์กรที่มี 120 พันล้านพารามิเตอร์ ซึ่งน้อยกว่า Nemotron 3 Ultra แต่ Nvidia อ้างว่ายังให้ความแม่นยำใกล้เคียงกันในงานทำตามคำสั่งและเรียกใช้เครื่องมือ
| Factor | Nemotron 3 Ultra | Nemotron 3.5 Super VL |
|---|---|---|
| จำนวนพารามิเตอร์ | มากกว่า 120 พันล้าน | 120 พันล้าน |
| ลักษณะงาน | โมเดลขนาดใหญ่ | Agents สำหรับองค์กร |
| Instruction-following และ tool-use | เกณฑ์เปรียบเทียบ | Nvidia อ้างว่าแม่นยำใกล้เคียง Nemotron 3 Ultra |
ความสามารถที่เห็นภาพได้จากงานจริง
งานเอกสารที่ต้องทำความเข้าใจข้อมูลจำนวนมาก ใช้กับงาน document intelligence เพื่อช่วยอ่านและจัดการข้อมูลเป็นระบบ
ด้านการเงิน โมเดลรองรับงานบัญชีและการตรวจเคลมประกันสุขภาพ ส่วนงานวิจัยใช้กับการทดลองทางวิทยาศาสตร์ได้
สำหรับ Nemotron 3.5 Bolt 74B-A9B จุดเด่นคือการให้เหตุผลหลายขั้นตอน การเรียกใช้เครื่องมือ และการท่องเว็บ เหมาะกับ agent ที่ต้องทำงานต่อเนื่องหลายจังหวะบนเครื่องภายในองค์กรหรือ PC ที่รองรับครับ
Super VL เทียบกับโมเดลจาก Anthropic และ OpenAI
Nvidia ระบุว่า Super VL ทำงานเสร็จเร็วกว่า Opus 5, GPT 6.1 Sol, Luna และ Astra เมื่อผ่านการ post-train สำหรับงานเอเจนต์เฉพาะทาง เช่น งานเอกสาร บัญชี และการทดลองทางวิทยาศาสตร์ ทั้งหมดนี้เป็นคำกล่าวจาก Nvidia ไม่ใช่ผลทดสอบอิสระ
| Factor | Super VL | Opus 5 | GPT 6.1 Sol | Luna | Astra |
|---|---|---|---|---|---|
| ผลที่ Nvidia ระบุ | เร็วกว่าเมื่อ post-train สำหรับงานเฉพาะทาง | โมเดลที่ใช้เปรียบเทียบ | โมเดลที่ใช้เปรียบเทียบ | โมเดลที่ใช้เปรียบเทียบ | โมเดลที่ใช้เปรียบเทียบ |
| ลักษณะงาน | งานเอเจนต์เฉพาะทาง | งานเอเจนต์เฉพาะทาง | งานเอเจนต์เฉพาะทาง | งานเอเจนต์เฉพาะทาง | งานเอเจนต์เฉพาะทาง |
สิ่งที่ได้มาและสิ่งที่ต้องแลกเมื่อเลือกใช้ Nemotron
ข้อดี
- +ปรับแต่งด้วยข้อมูลขององค์กร และติดตั้งบนโครงสร้างพื้นฐานของตัวเองได้
- +รันงานบางประเภทในเครื่อง ช่วยลดการส่งข้อมูลขึ้น cloud
- +มีโมเดลหลายระดับ ตั้งแต่ Super VL สำหรับองค์กรถึง Bolt สำหรับ PC
ข้อเสีย
- −การใช้งานผูกกับโครงสร้างพื้นฐานและฮาร์ดแวร์ของ Nvidia
- −คำกล่าวด้านความเร็วอ้างอิงการทดสอบของ Nvidia และงาน agentic เฉพาะทาง
- −Super VL กับ Bolt 74B-A9B พร้อมใช้แล้ว แต่ Bolt E4B จะมาตอนปลายเดือนนี้
ค่าใช้จ่ายที่ไม่ได้อยู่ในสเปกโมเดล
การใช้ Bolt แบบ local ยังต้องจัดหาเครื่องที่ใช้ชิป RTX Spark หรือ workstation ที่รันบน DGX Spark ต้นทุนจึงไม่ได้อยู่แค่ตัวโมเดล แต่รวมถึงการเลือกและดูแลเครื่องด้วย
ฝั่งองค์กรต้องเตรียมโครงสร้างพื้นฐานใน data center ของตัวเอง รวมถึงติดตั้งและดูแลระบบให้โมเดลทำงานจริง การ post-train ด้วยข้อมูลภายในก็ต้องใช้ทรัพยากรและขั้นตอนเพิ่มขึ้น
ข้อดีคือองค์กรเป็นเจ้าของข้อมูลและสิ่งที่สร้างเองได้ แต่ภาระการ deploy และดูแลทั้งหมดจะย้ายมาอยู่กับทีมภายใน ขณะที่ผู้ใช้ PC ต้องลงทุนกับเครื่องที่รองรับการรัน agent แบบ local เพื่อไม่ต้องส่งงานขึ้น cloud
ใครเหมาะกับแนวทางนี้
Nvidia เหมาะกับองค์กรที่ต้องการรัน agent ในดาต้าเซ็นเตอร์ของตัวเอง และอยาก post-train ด้วยข้อมูลภายในโดยยังเป็นเจ้าของสิ่งที่สร้างเอง ทีมโปรแกรมเมอร์และ knowledge workers ที่ใช้ PC RTX Spark หรือเวิร์กสเตชัน DGX Spark ก็อยู่ในกลุ่มเป้าหมาย
เหมาะกับ
- องค์กรที่ต้องการรัน agent บนโครงสร้างพื้นฐานของตัวเอง
- ทีมที่ต้องการควบคุมข้อมูลและ post-train โมเดลเอง
- โปรแกรมเมอร์และ knowledge workers ที่ใช้ PC หรือเวิร์กสเตชัน Nvidia
ลองชั่งน้ำหนักดู
- ทีมที่ยังไม่พร้อมดูแลการ deploy และโครงสร้างพื้นฐานเอง
ข้ามได้เลย
- ผู้ใช้ที่ไม่อยากจัดการฮาร์ดแวร์ — พิจารณาใช้โมเดลบน cloud
Nvidia กำลังขายอะไรไปพร้อมกับโมเดลใหม่
การเปิดตัวครั้งนี้ไม่ได้ขายแค่โมเดล แต่ขายภาพการใช้งานบนโครงสร้างพื้นฐาน Nvidia ด้วย องค์กรสามารถรันโมเดลในดาต้าเซ็นเตอร์ของตัวเอง ส่วนตลาดพีซี AI ก็ได้เครื่องที่รันเอเจนต์ผ่านชิป RTX Spark และ DGX Spark
จุดที่น่าติดตามคือเอเจนต์แบบรันในเครื่องจะช่วยให้ผู้ใช้ควบคุมข้อมูลได้มากแค่ไหน เพราะงานบางอย่างไม่ต้องส่งขึ้น cloud ทั้งหมด แต่การดูแลฮาร์ดแวร์และระบบเองก็ยังเป็นโจทย์สำคัญครับ