待验证50% 置信基准精确时间
JetBrains 自报数据：Mellum2.1 在单张 H200 上达到 7,969 tokens/s，Qwen3.5-9B 为 4,347 tokens/s。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/13
首次发现
有效期至：2027/1/11
来源
涉及实体
相关事实
待验证在 Qwen3 27B 的 llama.cpp 环境下，R9700 跑出 27.1 tokens/s（达带宽上限约65%），B70 跑出 21.4 tokens/s（约50%出头）74% 相似待验证官方跑分显示 Qwen3.6 27B 稠密模型采用 NVFP4 量化时，单并发可达 202 token/s，双并发 400 token/s，8 并发冲到 1147 token/s70% 相似待验证Jordan Ilchif在32GB M4 MacBook Air上测试Qwen 3.8 27B，Ollama的NVFP4构建跑出17.2 tokens/s，纯MLX 6.6 tokens/s，LLAMA.cpp 4.4 tokens/s，但格式不同70% 相似待验证在M3 Max上运行Gemma 4 26B，MLX为65.0 tokens/s，LLAMA.cpp为63.9 tokens/s，两者基本打平70% 相似待验证在公平的4-bit对比中，MLX搭配D-Flash 2推测解码跑出16.6 tokens/s，对比Ollama Q4的5.7 tokens/s70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1016868API
curl https://kongchang.com/api/v1/knowledge/claims/1016868MCP
get_claim(id=1016868)