待验证50% 置信事实精确时间
KV Cache 是 Transformer 解码器在自回归生成时缓存每一层已计算过的 Key 和 Value 矩阵的机制，使单步注意力计算量从 O(n²) 降到 O(n)。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
已验证KV Cache通过缓存已计算的Key/Value矩阵，将推理复杂度从O(n²)降至O(n)79% 相似待验证在大语言模型推理中，Transformer 的自注意力机制需要为每个已处理的 token 保存 Key 和 Value 向量，这批存储即 KV Cache。79% 相似待验证KV Cache 是大语言模型推理阶段的一项核心优化技术，本质上是一种空间换时间的策略，通过缓存历史 token 的 Key、Value 向量避免重复计算78% 相似已验证KV Cache机制可以缓存重复的前缀内容，越简洁的系统提示词缓存命中率越高76% 相似待验证处理输入可以借助 KV Cache 等机制摊薄计算成本，而生成每个输出 token 需要完整的前向推理74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1069698API
curl https://kongchang.com/api/v1/knowledge/claims/1069698MCP
get_claim(id=1069698)