待验证50% 置信基准精确时间
在 Amazon EC2 P5en 实例搭配 AWS EFA 的基准测试中，推送式 KV 传输方案实现了约 30% 的 TPOT（每输出令牌时间）提升。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/19
首次发现
有效期至：2026/11/2
来源
涉及实体
相关事实
待验证在Amazon EC2 P5en实例上配合EFA网络，Qwen3-32B的TTFT最高提升1.6倍。67% 相似待验证通过 request-owned speculative KV，在 DeepSeek-V4-Pro 1P1D、MI355X、并发 256 场景下，平均 TTFT 从 19.4 秒降至 15.1 秒60% 相似待验证Haiku 5.5在不同供应商处可跑到100到200 TPS，创作者用Claude Code测试稳定在约180 TPS58% 相似待验证vLLM 的双向 KV 传输在 Qwen3-32B 上把 24k token 场景的 TTFT 从 778ms 降到 460ms，约 1.6 倍提升。58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1070048API
curl https://kongchang.com/api/v1/knowledge/claims/1070048MCP
get_claim(id=1070048)