Google เปิดโอเพนซอร์ส TorchTPU ให้แอป AI ที่สร้างด้วย PyTorch ย้ายไปรันบนชิป TPU และ Google Cloud ได้ด้วยการเปลี่ยนการตั้งค่า โดยไม่ต้องเขียนแอปใหม่
Amazon ก็เปิดตัว TorchNeuron สำหรับย้ายแอปไปใช้ชิป Trainium และ AWS โดยไม่ต้องเขียนใหม่เช่นกัน ทั้งสองบริษัทกำลังลดความได้เปรียบของ Nvidia ในระบบ AI แต่ยังไม่มีหลักฐานว่านักพัฒนาจะเลิกใช้ฮาร์ดแวร์ Nvidia กันเป็นวงกว้าง
PyTorch เดิมขยับไปรันบนชิป TPU ได้อย่างไร
TorchTPU ทำหน้าที่เป็นทางเชื่อมจากแอป PyTorch เดิมไปยัง TPU และ Google Cloud นักพัฒนาเปลี่ยนการตั้งค่าได้เลย โดยไม่ต้องเขียนแอปใหม่
Google ยังมี TPU agent suite ช่วยย้ายแอปและแก้ข้อผิดพลาดระหว่างทาง ทำให้การทดลองใช้ชิปของ Google เริ่มได้ง่ายขึ้น โดยไม่ต้องรื้อระบบเดิมทั้งหมด

ปัญหาที่นักพัฒนาไม่อยากเริ่มแก้ใหม่ตั้งแต่ต้น
ทีมที่มีแอป PyTorch อยู่แล้วมักไม่อยากย้ายไปชิปหรือคลาวด์ใหม่ เพราะกลัวต้องเขียนโค้ดและแก้ระบบเดิมแทบทั้งหมด โดยเฉพาะแอปที่สร้างมาให้ทำงานกับชิปของ Nvidia ตั้งแต่แรก
TorchTPU แก้จุดนี้ด้วยการให้แอปเดิมทำงานบน TPU และ Google Cloud ได้ผ่านการเปลี่ยนการตั้งค่า โดยไม่ต้องเขียนแอปใหม่ จุดขายจึงไม่ใช่แค่การมีชิปทางเลือก แต่คือการลดแรงเสียดทานตอนย้ายระบบด้วย
TorchTPU เสริมแผนชิป AI ของ Google อย่างไร
TorchTPU เป็นสะพานจาก PyTorch ไปยัง TPU และ Google Cloud ช่วยให้นักพัฒนาย้ายแอปเดิมด้วยการเปลี่ยน configuration โดยไม่ต้องเขียนใหม่
Google ยังมี TPU agent suite สำหรับช่วยย้ายแอปและแก้ error ระหว่างทาง ส่วน LiteRT ก็ถูกปรับให้ทำงานกับแอป AI จาก PyTorch ได้ดีขึ้น เพื่อรองรับการรัน AI บนโทรศัพท์ แล็ปท็อป และอุปกรณ์ฝังตัว

ภาพรวมจึงไม่ใช่แค่การเปิดตัวชิปทางเลือก แต่เป็นการทำให้เครื่องมือและ cloud ของ Google เข้ากับ workflow เดิมของนักพัฒนามากขึ้น
TorchTPU เปลี่ยนวิธีรันแอป PyTorch เดิมตรงไหนบ้าง
PyTorch เป็นเครื่องมือโอเพนซอร์สสำหรับสร้าง ฝึก และรันโมเดล AI เดิมฟีเจอร์จำนวนมากทำงานกับชิป Nvidia โดยเฉพาะ ส่วน TorchTPU เปิดทางให้แอปเดิมรันบน TPU และย้ายไป Google Cloud ได้ง่ายขึ้น
| Factor | PyTorch | TorchTPU |
|---|---|---|
| หน้าที่หลัก | สร้าง ฝึก และรันโมเดล AI | ช่วยให้แอป PyTorch รันบน TPU |
| ฮาร์ดแวร์ | รองรับ Nvidia เป็นหลัก | รองรับ Google TPU |
| การย้ายไป Google Cloud | ต้องปรับตามสภาพแวดล้อม | เปลี่ยนการตั้งค่าโดยไม่ต้องเขียนแอปใหม่ |
เมื่อต้องใช้จริง การย้ายแอปเกิดขึ้นตรงไหนบ้าง
ถ้ามีแอป PyTorch เดิมอยู่แล้ว การย้ายไปรันบน Google TPU ทำได้ด้วยการเปลี่ยนการตั้งค่า โดยไม่ต้องเขียนแอปใหม่ เหมาะกับทีมที่อยากลอง Google Cloud โดยไม่รื้อโค้ดทั้งก้อน
ระหว่างย้าย TPU agent suite จะช่วยพาแอปไปยังชิปและคลาวด์ของ Google พร้อมช่วยแก้ข้อผิดพลาด ส่วนการทำงานร่วมกับ Hugging Face, vLLM และ SGLang ช่วยให้เครื่องมือที่นักพัฒนาใช้กันอยู่ทำงานต่อได้
ถ้าจะนำแอปไปใช้บนโทรศัพท์ แล็ปท็อป หรืออุปกรณ์ฝังตัว LiteRT ก็ถูกปรับให้ทำงานกับแอป PyTorch ได้ดีขึ้นด้วย
Google กับ Amazon กำลังท้าทาย Nvidia ต่างกันอย่างไร
Google ใช้ TorchTPU พาแอป PyTorch ไปทำงานบน TPU และ Google Cloud ได้ด้วยการเปลี่ยน configuration โดยไม่ต้องเขียนแอปใหม่ ส่วน Amazon ใช้ TorchNeuron เพื่อย้ายแอปไปยังชิป Trainium และ AWS ในแนวทางเดียวกัน
| Factor | TorchTPU ของ Google | TorchNeuron ของ Amazon | แนวทางเดิมบน Nvidia |
|---|---|---|---|
| ชิปเป้าหมาย | TPU | Trainium | Nvidia GPU |
| คลาวด์ที่เกี่ยวข้อง | Google Cloud | AWS | ไม่ได้ระบุ |
| วิธีลดการพึ่งพา Nvidia | ย้ายแอปด้วย configuration change ไม่ต้องเขียนใหม่ | ย้ายแอปโดยไม่ต้องเขียนใหม่ และส่งโค้ดให้ PyTorch รองรับฮาร์ดแวร์กว้างขึ้น | PyTorch ถูกสร้างให้ทำงานกับ Nvidia เป็นหลัก |
จุดต่างคือ Amazon พยายามปรับ PyTorch หลักให้เปิดกว้างกับฮาร์ดแวร์มากขึ้น ขณะที่ Google เน้นเครื่องมือช่วยย้ายแอปและการทำงานร่วมกับ ecosystem เดิม.

จุดเด่นของ TorchTPU คือช่วยย้ายแอป PyTorch ไปใช้ TPU และ Google Cloud ได้ด้วยการเปลี่ยน configuration โดยไม่ต้องเขียนแอปใหม่ แถมทำงานร่วมกับ Meta, Hugging Face, vLLM และ SGLang รวมถึงมี TPU agent suite ช่วยย้ายแอปและแก้ข้อผิดพลาด
ข้อจำกัดคือยังไม่มีหลักฐานว่านักพัฒนาจะเลิกใช้ฮาร์ดแวร์ Nvidia กันเป็นจำนวนมาก การเปิดตัวครั้งนี้จึงยังสรุปไม่ได้ว่าการเปลี่ยนแพลตฟอร์มจะประสบความสำเร็จแค่ไหน
ข้อดี
- +ย้ายแอป PyTorch ไป TPU และ Google Cloud ได้โดยไม่ต้องเขียนใหม่
- +ทำงานร่วมกับเครื่องมือ AI ยอดนิยม และมีเครื่องมือช่วยแก้ข้อผิดพลาด
ข้อเสีย
- −ยังไม่มีข้อมูลว่านักพัฒนาจะย้ายออกจาก Nvidia จำนวนมาก
- −ยังสรุปความสำเร็จของการเปลี่ยนแพลตฟอร์มไม่ได้จากการประกาศครั้งเดียว
ค่าใช้จ่ายและภาระที่ข่าวนี้ยังไม่ได้ตอบ
ข่าวยังไม่ระบุค่าใช้บริการ Google Cloud หรือ AWS รวมถึงต้นทุนการใช้ TPU และ Trainium จึงยังสรุปไม่ได้ว่าทางเลือกไหนคุ้มราคากว่า Nvidia
แม้ย้ายแอปได้โดยไม่ต้องเขียนใหม่ แต่ยังไม่มีผลทดสอบประสิทธิภาพหลังย้าย หรือข้อมูลภาระดูแลระบบจริง เช่น การแก้ปัญหาและปรับแต่งงานให้เข้ากับชิปแต่ละแบบ เรื่องพวกนี้อาจกลายเป็นต้นทุนเพิ่มเติม แต่แหล่งข่าวยังไม่มีตัวเลขให้ประเมินครับ
หลังจากนี้ตลาดชิป AI จะเปลี่ยนเกมได้แค่ไหน
TorchTPU และ TorchNeuron ทำให้การทดลองย้ายแอป PyTorch ไปใช้ชิปและ cloud ทางเลือกง่ายขึ้น เพราะไม่ต้องเขียนแอปใหม่ทั้งหมด นักพัฒนายังมีเครื่องมือช่วยย้ายระบบและแก้ข้อผิดพลาดด้วย
แต่ตลาดจะเปลี่ยนจริงหรือไม่ ขึ้นอยู่กับการยอมรับจากนักพัฒนาและการใช้งานจริง หากยังไม่มีคนย้ายออกจาก Nvidia อย่างกว้างขวาง ความได้เปรียบของ Nvidia ก็ยังไม่หายไป เพียงแต่ Google กับ Amazon กำลังลดกำแพงในการลองใช้ฮาร์ดแวร์ทางเลือกลงแล้วครับ