待验证50% 置信事实精确时间
作者在 T4 上用同一个模型和测试方法复现，8 并发时单请求解码 122–124 tokens/s，整台服务器产出 701–708 tokens/s，同样约为 5.7 倍差异。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证pydantic-ai 测试中，10 次并行工具调用（21 个新块）后下一次请求从缓存读取了 6,827 个 token；11 次调用（23 个块）后读取量为 0 并重新写入了 7,534 个 token。68% 相似待验证在2944 token输入、1024 token输出条件下，普通模式达到每秒29.9 token，开启MTP2后提升到48.4 token/s68% 相似待验证同一个Gemma 4 E2B模型在AWS不同推理后端上单请求生成速度从34.9到131.9 tokens/s不等，差距显著。67% 相似待验证投机采样中当候选 token 的接受率较高时，每次前向传播的有效输出 token 数量可达 2~4 个，从而将整体生成速度提升 1.5x~3x66% 相似待验证据Artificial Analysis测试，Grok 4.6在MXX High档位约消耗38k tokens每任务，而Grok 4.7飙升至81k tokens65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1014549API
curl https://kongchang.com/api/v1/knowledge/claims/1014549MCP
get_claim(id=1014549)