待验证50% 置信基准精确时间
M4 Pro 的 Mac mini 运行 Qwen 3.8 约每秒 15 个 token,M5 Max 笔记本约每秒 33 个 token。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/11/5
首次发现
有效期至:2026/11/19
来源
涉及实体
相关事实
待验证在配备16GB统一内存的M2 Mac mini上使用4-bit量化的Qwen2.5 7B模型测试,吞吐量从未批处理的16.8 tokens/s跌到批处理后的8.7 tokens/s79% 相似待验证在M4 Pro芯片、24GB统一内存的MacBook Pro上通过llama.cpp运行,文本解码速度为10.13 tokens/秒,完整任务每个耗时4到7分钟77% 相似待验证运行Qwen3-Next-Flash(Autoround W4A16量化)时,预填充速度约1.3k tokens/s,生成速度达70 tokens/s(代码)/60 tokens/s(散文),支持128k+长上下文75% 相似待验证一位开发者在M5 Pro/64GB上运行Qwen3 27B模型,同一会话中缓存命中时首Token仅6.1秒,缓存失效后重读约41000 tokens导致首Token延迟268秒,速度相差44倍。72% 相似待验证32GB 内存的 Mac 可以运行完整的 4 位量化 Qwen 3.8 模型,并留有空间进行长对话。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1138604API
curl https://kongchang.com/api/v1/knowledge/claims/1138604MCP
get_claim(id=1138604)