待验证50% 置信基准精确时间
vLLM 对 DeepSeek-V4.1-Flash 的三项优化（SWA 有界重放、MegaAttention 与 Mega-Gate 内核、算子融合与 CUDA graphs）在 150 TPS 约束下实现 5.3 倍吞吐，低并发下加速 1.9 倍，100K 吞吐时 TTFT 降低约 70%。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证RTN、GPTQ、AWQ三种4-bit量化方案压缩率相近，但精度保留能力依次递增72% 相似待验证Megatron-LM实验数据表明，NVLink互联下8卡张量并行可达7.5×以上线性加速，而PCIe 3.0 x16环境下7B模型通常仅达2.5-3×，超过4卡后通信开销完全抵消额外算力70% 相似待验证通过 request-owned speculative KV，在 DeepSeek-V4-Pro 1P1D、MI355X、并发 256 场景下，平均 TTFT 从 19.4 秒降至 15.1 秒68% 相似待验证DeepSeek V3的decode单元采用144卡EP，通过大batch均摊权重load开销并腾出显存提升batch size68% 相似待验证RTX 4070及以下（12GB及更低）运行MiniMax H3可能需要全量模型卸载到CPU、降低分辨率、减少帧数等极限优化68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1026265API
curl https://kongchang.com/api/v1/knowledge/claims/1026265MCP
get_claim(id=1026265)