PS5 ที่เจลเบรกแล้วสามารถรันโมเดล AI ภายในเครื่องและออฟไลน์ได้ หลังพอร์ต llama.cpp ให้ทำงานแบบ native พร้อมใช้ GPU และ RAM ได้มากขึ้น
ผลคือความเร็วดีขึ้นชัดเจน โมเดล Gemma 4 E4B ทำได้ 61 tokens ต่อวินาที ส่วน Llama 3.2 3B ทำได้สูงสุด 124 tokens ต่อวินาที ขณะที่โมเดล Qwen3.8-27B ทำได้ 20 tokens ต่อวินาที
การรันแบบ native ยังเปิดให้ใช้ RAM ได้สูงสุด 11.4 GiB จากเดิมที่การรันผ่าน CPU จำกัดไว้ราว 6.25 GiB ด้วย
จาก PS5 ที่รัน AI ได้ สู่เครื่องที่ใช้ GPU ช่วยประมวลผล
PS5LM คือพอร์ตของ llama.cpp ที่ทำให้ PS5 รันโมเดลภาษาแบบ local และ offline ได้ เดิมโปรเจกต์ทำงานเป็น payload บน CPU โดยแทรกการประมวลผล AI เข้าไปพร้อมกับหน้าหลักและบริการระบบ
fork ล่าสุดเปลี่ยนแนวทางเป็นการทำงานแบบ native บน PS5 พร้อมใช้ GPU ผ่าน PS5_Vulkan จึงไม่ต้องพึ่ง CPU เป็นหลัก การเปลี่ยนนี้ทำให้ PS5 ใช้ทรัพยากรเครื่องกับโมเดลภาษาได้เหมาะสมขึ้น และเปิดทางให้รันโมเดลขนาดใหญ่กว่าเดิม.
จุดเปลี่ยนของ PS5LM fork ล่าสุด
เวอร์ชันของ cobanov รันเป็น payload บน CPU จึงใช้ RAM ได้ราว 6 GiB หรือประมาณ 6.25 GiB เท่านั้น เพราะถ้าถือหน่วยความจำมากกว่านี้ หน้าหลักอาจค้างได้
fork ของ u/AdIllustrious7246 ใช้ PS5_Vulkan ซึ่งเป็นพอร์ตของ RADV สำหรับส่งคำสั่งไปยัง GPU ของ PS5 ทำให้ไม่ต้องแบกงานไว้ที่ CPU อย่างเดียว และเปิดทางให้ใช้ RAM ได้สูงสุด 11.4 GiB การเปลี่ยนนี้จึงช่วยทั้งเรื่องขนาดโมเดลและความเร็วในการประมวลผล.
เมื่อ PS5 ไม่ได้เล่นเกม แต่กลายเป็นผู้ช่วย AI
ตอน PS5 ว่างจากการเล่นเกม มันสามารถรันโมเดลภาษาแบบออฟไลน์ และทำหน้าที่เป็นผู้ช่วย AI ได้ โดยไม่ต้องส่งข้อมูลออกไปประมวลผลบนเซิร์ฟเวอร์ ภาพนี้เกิดขึ้นบนเครื่องเกมที่ไม่ได้ถูกออกแบบมาเป็น AI workstation ตั้งแต่แรก
เมื่อใช้ GPU ช่วยประมวลผล โมเดลอย่าง Llama 3.2 3B ทำความเร็วได้ 124 tokens per second ส่วน Gemma 4 E4B อยู่ที่ 61 tokens per second จึงคุยโต้ตอบได้ลื่นพอสมควร นอกจากนี้ยังเปิด llama.cpp web UI ให้เครื่องอื่นในเครือข่ายท้องถิ่นเข้ามาคุยผ่าน browser ได้ด้วย
ตำแหน่งของโปรเจกต์นี้ในวงการ PS5 homebrew
โปรเจกต์นี้เป็นงาน homebrew ที่ต่อยอดจาก PS5_Vulkan ซึ่งเป็นพอร์ต RADV graphics driver สำหรับส่งคำสั่งไปยัง GPU ของ PS5 จากเดิมที่ GPU ถูกล็อกไว้ จึงเปิดทางให้โปรเจกต์อย่างการรัน LLM บนเครื่องทำได้
นี่ไม่ใช่ฟีเจอร์ทางการจาก Sony และยังต้องใช้ PS5 ที่เจลเบรกแล้ว ตัว llama.cpp ทำงานเป็น native app บนระบบที่ปลดล็อก ทำให้เข้าถึง GPU และ RAM ได้มากกว่าวิธีรันแบบ payload บน CPU
เวอร์ชันก่อนหน้าเทียบกับ fork ที่รันแบบ native
เวอร์ชันก่อนหน้ารันเป็น payload บน CPU จึงต้องแบ่ง RAM กับโฮมสกรีนและ system services ทำให้ใช้ได้ประมาณ 6–6.25 GiB เท่านั้น ถ้าโหลดโมเดลใหญ่ ระบบอาจค้างหรือ crash ได้
ส่วน fork ล่าสุดรัน llama.cpp แบบ native และใช้ GPU ผ่าน PS5_Vulkan จึงเปิดทางให้ใช้ RAM ได้สูงสุด 11.4 GiB พร้อมรองรับโมเดลใหญ่ขึ้น ผลลัพธ์จึงไปถึง Qwen3.8-27B ที่ 20 tokens ต่อวินาที และมี dashboard แสดง token ต่อวินาที การใช้ GPU/CPU อุณหภูมิ และการใช้พลังงานแบบสด ๆ
ตัวเลขความเร็วที่เห็นจากการใช้งานจริง
ผลทดสอบรายงานว่า Qwen3.8-27B ทำได้ 20 tokens ต่อวินาที ส่วน Gemma 4 E4B อยู่ที่ 61 tokens ต่อวินาที และ Llama 3.2 3B ทำได้ 124 tokens ต่อวินาที
ตัวเลขจึงต่างกันตามขนาดโมเดล โมเดลที่ใหญ่กว่าอย่าง Qwen3.8-27B ใช้เวลาประมวลผลมากกว่า ขณะที่โมเดลขนาดเล็กอย่าง Llama 3.2 3B สร้างคำตอบได้เร็วกว่าอย่างชัดเจน
ใช้งานแบบไหนถึงจะเห็นความต่าง
แดชบอร์ดช่วยดูความเร็วสร้างโทเคนแบบสด พร้อมเช็กการใช้ GPU, CPU, พลังงาน, อุณหภูมิ และการแบ่งหน่วยความจำระหว่างโมเดลกับ KV cache ได้ทันที เหมาะกับคนที่อยากรู้ว่าเครื่องกำลังทำงานหนักแค่ไหนตอนรันโมเดลขนาดใหญ่
ส่วน llama.cpp web UI ทำให้แชตกับโมเดลผ่านเบราว์เซอร์จากอุปกรณ์อื่นในเครือข่ายท้องถิ่นได้ เช่น เปิดคุยจากคอมพิวเตอร์หรืออุปกรณ์ใกล้ตัว โดยให้ PS5 ทำหน้าที่ประมวลผลอยู่เบื้องหลัง.
ทางเลือกที่มีอยู่ในแหล่งข่าว
การรัน llama.cpp เป็น payload บน CPU ทำได้เร็วในการเริ่มต้น แต่ใช้หน่วยความจำได้ราว 6 GiB หรือประมาณ 6.25 GiB เพราะถ้าใช้มากกว่านี้อาจทำให้หน้าหลักค้าง ส่วน fork ที่รันแบบ native ผ่าน PS5_Vulkan เปิดทางให้ใช้ GPU และ RAM ได้มากขึ้น จึงรันโมเดลใหญ่กว่าได้
อีกทางคือใช้ PS5 ตามปกติสำหรับเล่นเกม ซึ่งยังเป็นการใช้งานหลักของเครื่อง และไม่ต้องดัดแปลงระบบ แหล่งข่าวไม่ได้ให้ข้อมูลผลิตภัณฑ์คู่แข่งหรือระบบอื่นสำหรับเทียบประสิทธิภาพโดยตรง.
สรุปสิ่งที่ fork นี้ทำได้และยังทำไม่ได้
จุดเด่น: PS5 ที่เจลเบรกแล้วรันโมเดลภาษาแบบ local และ offline ได้ โดยใช้ GPU ช่วยเร่งการสร้างโทเคน รองรับโมเดล 27B และใช้ RAM ได้สูงสุด 11.4 GiB. แดชบอร์ดแสดงความเร็วสร้างโทเคน การใช้ GPU/CPU อุณหภูมิ และการใช้พลังงาน พร้อมเชื่อมต่อผ่าน llama.cpp web UI จากอุปกรณ์อื่นได้
ข้อจำกัด: ต้องใช้ PS5 ที่เจลเบรก เพราะการเข้าถึง GPU เดิมถูกล็อกไว้ ความเร็วและขนาดโมเดลจึงยังขึ้นกับฮาร์ดแวร์ของเครื่อง. เวอร์ชันที่รันบน CPU ใช้ RAM ได้จำกัดและอาจทำให้ระบบค้าง ส่วนแหล่งข่าวไม่ได้ระบุค่าใช้จ่ายในการติดตั้งหรือดัดแปลง
สิ่งที่ต้องแลกเพื่อให้ PS5 รัน AI ได้
ต้นทุนหลักคือการมี PS5 ที่เจลเบรกแล้ว และต้องยอมรับว่า GPU ของเครื่องไม่ได้เร็วที่สุดหรือมี RAM มากที่สุดสำหรับงาน AI การรันโมเดลจึงยังต้องเลือกให้เหมาะกับทรัพยากรที่มี
หน่วยความจำต้องแบ่งระหว่างตัวโมเดลกับ KV cache ทำให้พื้นที่ใช้งานมีข้อจำกัด แดชบอร์ดช่วยติดตาม GPU, CPU, power draw และอุณหภูมิได้ จึงพอมองเห็นภาระของเครื่องขณะรัน AI แบบ local ได้ครับ
สิ่งที่โปรเจกต์นี้บอกเกี่ยวกับฮาร์ดแวร์เกม
PS5_Vulkan เปิดทางให้เข้าถึง GPU ของ PS5 จนเครื่องนำไปใช้รันโมเดล AI แบบ local ได้ นอกเหนือจากการเล่นเกม นี่จึงสะท้อนว่าฮาร์ดแวร์เกมยังมีศักยภาพกับงาน homebrew อื่นๆ เมื่อปลดข้อจำกัดการเข้าถึงฮาร์ดแวร์
แต่ผลงานนี้ยังไม่ใช่หลักฐานว่า PS5 เหมาะกับงาน AI ขนาดใหญ่ เพราะต้นทางระบุว่า GPU ของเครื่องไม่ได้เร็วที่สุด และมี RAM ไม่มากที่สุดในกลุ่มฮาร์ดแวร์สำหรับงานลักษณะนี้
จากเครื่องเล่นเกมสู่เครื่องทดลอง AI ในบ้าน
fork ของ PS5LM ทำให้ PS5 ที่ไม่ได้เล่นเกมกลายเป็นเครื่องทดลอง AI ในบ้านได้ โดยรันโมเดลผ่าน GPU และใช้ RAM ได้สูงสุด 11.4 GiB พร้อม dashboard ดูความเร็วสร้าง token, การใช้ GPU/CPU, อุณหภูมิ และ power draw แบบสดๆ นอกจากนี้ยังคุยกับโมเดลผ่าน browser จากอุปกรณ์ในเครือข่ายเดียวกันได้
งานนี้แสดงให้เห็นศักยภาพของ homebrew และการนำฮาร์ดแวร์เดิมกลับมาใช้ใหม่ แม้ PS5 จะไม่ได้มี GPU เร็วที่สุดหรือ RAM มากที่สุดก็ตาม น่าติดตามว่าการเปิดทางให้เข้าถึง GPU จะต่อยอดไปสู่งาน homebrew รูปแบบใดอีก