待验证50% 置信事实精确时间
KV缓存在Agent多轮交互中保存此前所有Token的注意力键值对以避免重复计算，但其显存占用随上下文长度线性甚至近似线性增长，长上下文Agent容易触及显存上限。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
涉及实体
相关事实
待验证KV Cache复用针对Agent多轮对话中重复的前缀上下文，避免每次推理重新计算注意力，从而降低延迟77% 相似已验证KV Cache 是 Transformer 注意力机制中间态的持久化存储，记录每层注意力头对已处理token的键和值向量，从而跳过重复的前向传播计算73% 相似待验证Transformer 架构中自注意力层会为每个 Token 生成对应的 Key 和 Value 向量并缓存在 GPU 显存中，即 KV Cache 机制，上下文越长占用显存越大，推理成本呈近线性增长72% 相似待验证持续上下文机制显式地维护一个可持续更新的状态缓存，与大语言模型的 KV Cache 机制有相似之处，都是以空间换时间71% 相似待验证自注意力机制允许模型在处理每个 Token 时动态权衡序列中所有其他 Token 的重要性，从而捕获长距离语义依赖69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1047942API
curl https://kongchang.com/api/v1/knowledge/claims/1047942MCP
get_claim(id=1047942)