待验证50% 置信事实精确时间
DeepSeek V4.1对部分层采用局部注意力，只看最近的128个Token，短期笔记不存档而仅存本机内存，约三分钟后清除，命中率仍在98%以上。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/21
首次发现
有效期至：2027/1/19
来源
DeepSeek开源推理框架DeepInfer：AI推理成本砍半的秘密
bilibilicode秘密花园2026/10/21
涉及实体
相关事实
待验证在 DeepSeek Harness 的日常用法中，连续任务 KV 缓存命中率基本在 90% 以上，同一份 6 万多 Token 资料第二次提问仅等待 0.4 秒。74% 相似待验证实测显示 DeepSeek V4.1 Flash 1017 的思考 token 数量减少了约三分之一，输出更简洁。72% 相似待验证DeepSeek V4.1 Flash通过KV缓存层间交替与复用优化，将每token存储量从上一代的3500字节降至约890字节71% 相似待验证Llama 3.1 70B采用8个KV头而非64个注意力头，使KV cache体量降至原来的约八分之一。69% 相似待验证DeepSeek 1017 的专家权重已是 FP4（每参数 4bit），常规 4bit 量化帮助不大；Engram 记忆表可放 SSD（每 Token 只读约 12KB），但专家权重必须驻留高速内存，因为路由器每层从 384 个专家中选 6 个且逐 Token 选择不同。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1081776API
curl https://kongchang.com/api/v1/knowledge/claims/1081776MCP
get_claim(id=1081776)