待验证50% 置信基准精确时间
DeepSeek模型中引入的SWA(Sliding Window Attention)有界重放功能被vLLM完整实现,官方数据显示TTFT下降约30%
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/13
首次发现
有效期至:2027/1/11
来源
涉及实体
相关事实
待验证DeepSeek-V4 优化中,解码阶段跳过不必要的 topk/router 带来 3.4% 的端到端 TTFT 改善,工作空间复用带来 3.9% 的 TTFT 提升66% 相似待验证使用DeepSpec配合vLLM启动可使单次推理成本减半66% 相似待验证DeepSeek-V4 的稀疏 MLA(Multi-head Latent Attention)在 vLLM v0.28.0 中实现了端到端可用,支持普通解码、MTP和DSpark三种场景66% 相似待验证目前vLLM等框架针对昇腾的优化项目尚未集成DeepGEMM64% 相似待验证vLLM v0.3.1针对DeepSeek系列模型进行了深度优化,低并发场景下推理加速1.9倍,高并发场景下吞吐量提升5.3倍61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1014636API
curl https://kongchang.com/api/v1/knowledge/claims/1014636MCP
get_claim(id=1014636)