待验证50% 置信事实精确时间
一台被破解的PlayStation 5能以超过100 tokens/秒的速度运行本地大语言模型。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/17
首次发现
有效期至：2026/10/31
来源
涉及实体
相关事实
待验证破解过程中通过重新分配CPU优先级、解锁GPU通用计算访问、释放额外内存带宽，并结合针对并行处理和内存带宽优化的模型分叉（PS5LM），实现100+ tokens/秒的推理速度。64% 相似待验证该配置下35B模型实测单人最高速度约80 Tokens/秒，并发可达500 Tokens/秒以上62% 相似待验证Naive-N0.5-Flash 单并发可优化到约 2000 token/s，多并发场景下可达每秒 50 token 以上60% 相似待验证Gemma开源模型通过vLLM在A100上实现了2.85倍的端到端推理加速，吞吐量从约37,900 tokens/秒提升至超过108,000 tokens/秒，且保持100% token一致性和零质量下降。59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1053963API
curl https://kongchang.com/api/v1/knowledge/claims/1053963MCP
get_claim(id=1053963)