部分验证65% 置信基准精确时间
LFM2.5-24B-A2B 在 Apple M5 Max 上解码速度达到 184 tokens/s。
3
来源数
65%
置信度
短期 (~14 天)
时效性
2026/10/14
首次发现
有效期至：2026/10/28
来源
涉及实体
相关事实
待验证MiniCPM-V 4.7 35B-A3B 在 iPhone 17 Pro Max 上实现了 13+ tokens/s 的解码速度。76% 相似待验证LiquidAI 的 LFM2.5-24B-A2B 用稀疏 MoE 实现 24B 总参数中每 token 仅激活 2B，上下文从 32K 扩展到 131K，在 Apple M5 Max 上跑出 184 tok/s，在单张 NVIDIA B300 上聚合吞吐高达 21K tok/s。75% 相似待验证在 macOS + Apple Silicon 上通过 MLX（mlx-lm>=0.32.0）运行 LFM2.5-24B-A2B，可在 16GB 内存以内达到 150 tokens/秒以上。75% 相似待验证M5 Max的token生成速度大约在10-30 tokens/s范围（取决于模型规模），而NVIDIA H100的HBM3显存带宽高达3.35TB/s，推理速度可达本地设备的数十倍73% 相似待验证按高功耗加MLX或Ollama的公开数据，M4 Max上不同模型的解码速度大致阶梯为：Nemotron 3 Nano约160 tokens/s，Qwen 3.5 35B在107到130 tokens/s，Gemma 4 26B约75 tokens/s，DeepSeek V4 Flash约27 tokens/s，稠密27B约22 tokens/s72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1024887API
curl https://kongchang.com/api/v1/knowledge/claims/1024887MCP
get_claim(id=1024887)