待验证50% 置信基准精确时间
MiniCPM-V 4.7 35B-A3B 在 iPhone 17 Pro Max 上实现了 13+ tokens/s 的解码速度。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/12
首次发现
有效期至：2026/10/26
来源
涉及实体
相关事实
待验证PrismML的Bonsai技术让27B参数模型在iPhone 17 Pro上以约11 tokens/秒的速度运行72% 相似待验证Ling 3.0 Tiny在M4 Pro的MacBook上推理速度约为每秒86-90 tokens，在8K上下文下峰值内存约8.34 GiB71% 相似待验证在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒71% 相似待验证在RTX 5090上，Muse Glimmer不使用推测解码时为75 tokens/秒，搭配推测解码模型后速度达233 tokens/秒71% 相似待验证在5070 12G显卡配合64G内存的配置下，短聊天场景速度可达93 token/s，128K长上下文为74 token/s69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1009313API
curl https://kongchang.com/api/v1/knowledge/claims/1009313MCP
get_claim(id=1009313)