待验证50% 置信基准精确时间

在M3 Max上运行Gemma 4 26B，MLX为65.0 tokens/s，LLAMA.cpp为63.9 tokens/s，两者基本打平

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/13

首次发现

有效期至：2027/1/11

来源

M4 Max跑本地大模型：42与130 tokens/s的三个开关

涉及实体

M3 Maxproduct Gemma 4 26Bmodel MLXproduct LLAMA.cppproduct

相关事实

待验证在公平的4-bit对比中，MLX搭配D-Flash 2推测解码跑出16.6 tokens/s，对比Ollama Q4的5.7 tokens/s76% 相似待验证按高功耗加MLX或Ollama的公开数据，M4 Max上不同模型的解码速度大致阶梯为：Nemotron 3 Nano约160 tokens/s，Qwen 3.5 35B在107到130 tokens/s，Gemma 4 26B约75 tokens/s，DeepSeek V4 Flash约27 tokens/s，稠密27B约22 tokens/s74% 相似待验证在 Qwen3 27B 的 llama.cpp 环境下，R9700 跑出 27.1 tokens/s（达带宽上限约65%），B70 跑出 21.4 tokens/s（约50%出头）73% 相似待验证Jordan Ilchif在32GB M4 MacBook Air上测试Qwen 3.8 27B，Ollama的NVFP4构建跑出17.2 tokens/s，纯MLX 6.6 tokens/s，LLAMA.cpp 4.4 tokens/s，但格式不同73% 相似待验证社区横向对比数据：M2 Ultra约20 token/秒，M3 Ultra 512GB为39.8 token/秒，单张B200为119.7 token/秒，8张RTX Pro 6000约204 token/秒，改装48GB显存RTX 4090定制后端367 token/秒，双H200约375 token/秒70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1015151

API

curl https://kongchang.com/api/v1/knowledge/claims/1015151

MCP

get_claim(id=1015151)