越狱版PS5的玩法边界再次拓展。Reddit用户u/AdIllustrious7246发布了改进版PS5LM,这是llama.cpp在PS5上的移植项目,旨在让主机本地离线运行AI大语言模型(LLM)。新版本通过调用GPU实现原生运行,显著提升了性能,能以每秒20个token的速度运行Qwen3.8-27B等大型模型。
从CPU劫持到GPU原生加速
此前,GitHub用户cobanov发布的非官方移植版仅能作为CPU负载运行,受限于约6.25 GiB内存。该模式通过劫持CPU并行插入LLM指令与系统服务,但高内存占用易导致主机界面冻结。尽管cobanov计划后续利用GPU,但u/AdIllustrious7246抢先实现了这一目标。
新方案的核心在于利用了PS5_Vulkan,这是RADV图形驱动的移植版本,能够解锁PS5 AMD显卡的指令发送权限。通过开放GPU功能,开发者成功突破了此前的内存与算力瓶颈。
性能跃升与监控工具
借助GPU加速,可用内存提升至11.4 GiB。实测数据显示,270亿参数的模型运行速度达每秒20个token;Gemma 4 E4B和Llama 3.2 3B等较小模型的速度分别达到每秒61个和124个token,彻底解决了此前因CPU瓶颈导致的系统崩溃问题。
除了性能提升,该项目还配备了实时仪表盘,显示Token生成率、GPU/CPU利用率、功耗、温度及内存分配情况。同时,它兼容llama.cpp的Web UI,允许用户通过浏览器在其他设备上与本地LLM交互。
尽管让闲置PS5充当AI助手引发了关于“挖矿式”硬件短缺的担忧,但鉴于AI数据中心对算力的巨大需求已主导市场,且PS5在GPU性能和内存容量上并无优势,重演显卡危机的可能性极低。