待验证50% 置信事实精确时间
OpenBMB 公开的工程实践使 35B-A3B 的 MoE 模型 MiniCPM-V 4.7 在 iPhone 上以 20.5 tok/s 的速度运行，且不跳过任何专家。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/21
首次发现
有效期至：2027/1/19
来源
iPhone跑35B MoE达20.5 tok/s：不跳专家的调度魔法
redditr/LocalLLaMA2026/10/21
涉及实体
相关事实
待验证OpenBMB的MiniCPM-V 4.7能在iPhone上用约3GB运行35B视觉MoE。77% 相似待验证MiniCPM-V 4.7 35B-A3B 在 iPhone 17 Pro Max 上实现了 13+ tokens/s 的解码速度。67% 相似待验证MiniCPM和Qwen-0.5B等1B以下轻量模型配合INT4量化可以在手机芯片上运行67% 相似待验证在M4 24GB设备上，9B模型（如qwen3.5-32k:9b-mlx）运行速度快、内存占用小，但无法有效发现代码问题66% 相似待验证UP主在4G显存电脑上实测MiniCPM-2B生成速度达每秒57个token，首字生成仅0.22秒65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1081657API
curl https://kongchang.com/api/v1/knowledge/claims/1081657MCP
get_claim(id=1081657)