待验证50% 置信事实精确时间
KV Cache 的匹配要求严格的前缀一致性，只有请求开头部分与缓存记录完全吻合，后续新增内容才能接续缓存
1
来源数
50%
置信度
长期有效
时效性
2026/9/22
首次发现
来源
涉及实体
相关事实
已验证KV Cache机制可以缓存重复的前缀内容，越简洁的系统提示词缓存命中率越高80% 相似待验证KV cache 复用时，缓存的中间激活值在批大小或序列拼接方式改变时可能导致相同输入产生不同的 logit 输出71% 相似待验证KV Cache 是大语言模型推理阶段的一项核心优化技术，本质上是一种空间换时间的策略，通过缓存历史 token 的 Key、Value 向量避免重复计算67% 相似待验证KV Cache 通过缓存历史 Token 的 K、V 值避免自回归推理中的重复计算，新 Token 只需计算自身 Q65% 相似待验证Decode 阶段属于访存密集型操作，每生成一个新 token 需从显存读取全部历史 token 的 KV Cache64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/942065API
curl https://kongchang.com/api/v1/knowledge/claims/942065MCP
get_claim(id=942065)