待验证50% 置信基准精确时间
Llama 3.2 1B模型在WebGPU下达到55-64 tokens/s,中位回复耗时0.4-0.5秒,比SmolLM2 360M更快。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至:2027/1/15
来源
涉及实体
相关事实
待验证OpenTPU 运行 LFM 2.5 230M 模型可达到约 59 tokens/秒,在 4-bit 量化下提升到 85.8 tokens/秒74% 相似待验证llama.cpp通过纯CPU推理和4-bit GGUF量化格式,使7B参数模型在无GPU的普通服务器上达到每秒20-40 tokens的生成速度71% 相似待验证在llama.cpp的真实跑分线程中,2021年M1 Max解码写入速度61 tokens/s,高于2024年M4 Pro的51 tokens/s71% 相似待验证开发者Primitive报告:关闭推测时为91.2 tokens/s,开启3个推测token后达到142.6 tokens/s,同一配置下约提速56%70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1051516API
curl https://kongchang.com/api/v1/knowledge/claims/1051516MCP
get_claim(id=1051516)