待验证50% 置信事实精确时间
DeepInfer采用SWA有界重放技术,将重建缓存时重算的最后2560个词减少到128个,使总预填充计算量几乎减半,长上下文成本与长度脱钩。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/23
首次发现
有效期至:2027/1/21
来源
DeepSeek开源推理引擎DeepInfer:AI成本战与国运之争
bilibili雪蝶的冰凌2026/10/22
涉及实体
相关事实
待验证DeepSeek 的部分模型层使用滑动窗口注意力,只关注最近的 128 个 token;SWA 有界重放只重放提示末尾的短窗口,据称几乎消除总预填充工作量。72% 相似待验证DeepSeek-V4 优化中,通过跳过空的 c128 启动实现约 2 倍的算子提升,移除冗余完整算子实现 1.88 倍算子提升66% 相似待验证DeepSeek第一代模型每个上下文token占用389,000字节,而本月发布的新模型每token仅占890字节,缩小了437倍64% 相似待验证DeepInfer的核心机制是上下文缓存,将已计算的数学路径保留在内存中,缓存有效期超过72小时。64% 相似已验证DeepSeek发布了DeepSeek-V4.1-Flash,该方法对KV缓存所需内存进行了大幅压缩63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088587API
curl https://kongchang.com/api/v1/knowledge/claims/1088587MCP
get_claim(id=1088587)