待验证50% 置信基准精确时间
在单张H100、相近实测准确率下，QwenDLM-4B + ORL达到1,298 tokens/s，DFlash为746 tokens/s，EAGLE3为405 tokens/s（端到端系统比较：ORL走dlmrt，投机解码走vLLM）。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/17
首次发现
有效期至：2026/10/31
来源
涉及实体
相关事实
待验证在 16 个请求各携带 3,072 token 长提示的场景下，Gemma 4 E2B 保持 1049 tokens/秒，而 Granite 3.3 2B 降至 732（0.70x），SmolLM3-3B 降至 725（0.69x），Phi-4-mini 降至 404（0.39x），Qwen3-4B 仅为 373（0.36x）。73% 相似待验证Chinchilla模型拥有70B参数和1.4T tokens，在同等算力下显著优于拥有280B参数和300B tokens的Gopher模型72% 相似待验证在 16 并发、256 token 输出测试中，Gemma 4 E2B 输出速度为 1887 tokens/秒，比它快的模型包括 Qwen2.5-0.5B（4176，2.21x）、Qwen3-0.6B（3210，1.70x）、Qwen2.5-1.5B（2780，1.47x）和 Qwen3-1.7B（2049，1.09x）。71% 相似待验证在超长上下文测试中，Ornith 1.5早期约75 token/秒，超过160万token后降至约45 token/秒，而Qwen 3.8在相同负载下降至约5 token/秒70% 相似待验证在2944 token输入、1024 token输出条件下，普通模式达到每秒29.9 token，开启MTP2后提升到48.4 token/s69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1049951API
curl https://kongchang.com/api/v1/knowledge/claims/1049951MCP
get_claim(id=1049951)