待验证50% 置信事实精确时间
在 macOS + Apple Silicon 上通过 MLX（mlx-lm>=0.32.0）运行 LFM2.5-24B-A2B，可在 16GB 内存以内达到 150 tokens/秒以上。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证Apple Silicon上原生推荐使用MLX 4位仿射量化（组大小64），4位MLX构建约占15GB统一内存76% 相似待验证LFM2.5-24B-A2B 在 Apple M5 Max 上解码速度达到 184 tokens/s。75% 相似待验证博主使用16GB内存、M2 Pro芯片的Mac Mini运行Gemma 3 12B毫无压力74% 相似待验证Ollama本地部署实测吞吐量：MacBook M2 16GB约15 tokens/秒，RTX 3060 12GB约45，RTX 4090 24GB约70，8GB笔记本约574% 相似待验证本地推理受限于用户硬件，一个7B参数量化模型（如Llama 3 8B的Q4版本）文件约4-5GB，在Apple M系列芯片Mac上可达每秒20-40个token，在仅有集成显卡和8GB内存的笔记本上可能降至每秒3-5个token73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1029995API
curl https://kongchang.com/api/v1/knowledge/claims/1029995MCP
get_claim(id=1029995)