待验证50% 置信解决方案精确时间
DeepSeek 的部分模型层使用滑动窗口注意力,只关注最近的 128 个 token;SWA 有界重放只重放提示末尾的短窗口,据称几乎消除总预填充工作量。
1
来源数
50%
置信度
长期有效
时效性
2026/10/21
首次发现
来源
涉及实体
相关事实
待验证DeepSeek模型中引入的SWA(Sliding Window Attention)有界重放功能被vLLM完整实现,官方数据显示TTFT下降约30%70% 相似待验证DeepMind此前的Enformer模型有效输入窗口达到约200kb66% 相似待验证DeepSeek第一代模型每个上下文token占用389,000字节,而本月发布的新模型每token仅占890字节,缩小了437倍65% 相似待验证DeepSeek-Coder具备16K甚至更长的上下文窗口64% 相似待验证DeepSeek的官方默认思考量档位是Hi档(短题思考上限4096或8192 Token),同名模型在不同配置下的实际干活量并不相同。63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1082057API
curl https://kongchang.com/api/v1/knowledge/claims/1082057MCP
get_claim(id=1082057)