PS5LM

一台被破解的PlayStation 5能以超过100 tokens/秒的速度运行本地大语言模型。

破解过程中通过重新分配CPU优先级、解锁GPU通用计算访问、释放额外内存带宽，并结合针对并行处理和内存带宽优化的模型分叉（PS5LM），实现100+ tokens/秒的推理速度。

PS5LM项目是一个GitHub仓库，用于在越狱版PS5上运行Llama.cpp。