待验证50% 置信基准精确时间
Nimble 9B在M5 Max上平均90毫秒完成决策，输出token只有1到4个，输入token在155到841之间
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/7
首次发现
有效期至：2027/1/5
来源
涉及实体
相关事实
待验证在 AMD RX 7900 显卡实测中，Ornith 35B 总体准确率 85%（21 项通过 18 项），生成速度 74 tokens/秒，提示词处理 850 tokens/秒，显存占用 20GB69% 相似待验证UP主在4G显存电脑上实测MiniCPM-2B生成速度达每秒57个token，首字生成仅0.22秒69% 相似待验证Gemma量化模型在高性能笔记本电脑上Token生成速度可达每秒20-50个，纯CPU推理约5-15 tokens/秒，INT4量化下NVIDIA RTX 4060/4070可将推理速度提升3-5倍68% 相似待验证M5 Max的token生成速度大约在10-30 tokens/s范围（取决于模型规模），而NVIDIA H100的HBM3显存带宽高达3.35TB/s，推理速度可达本地设备的数十倍68% 相似待验证Ling 3.0 Tiny在M4 Pro的MacBook上推理速度约为每秒86-90 tokens，在8K上下文下峰值内存约8.34 GiB68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/984288API
curl https://kongchang.com/api/v1/knowledge/claims/984288MCP
get_claim(id=984288)