待验证50% 置信事实精确时间
KV Cache 在 Decode 阶段缓存此前所有 Token 的 Key 和 Value 矩阵，随对话轮次和上下文窗口增长而膨胀，长文本场景下可占用几 GB 到几十 GB 内存
1
来源数
50%
置信度
长期有效
时效性
2026/9/23
首次发现
来源
涉及实体
相关事实
待验证上下文越长，模型需要缓存的 KV Cache 越大，KV Cache 使模型生成新 Token 时无需重新计算所有历史 Token 的注意力权重79% 相似已验证KV Cache通过缓存已计算的Key和Value矩阵避免重复运算，PagedAttention等进阶技术进一步优化缓存内存管理效率75% 相似待验证KV Cache（键值缓存）用于避免自回归生成时对历史 token 的重复计算，但长上下文场景下预填充阶段需占用大量 HBM 显存带宽，拉长首 token 延迟（TTFT）75% 相似已验证KV Cache的显存占用随序列长度线性增长，700亿参数采用GQA的模型处理10万Token时KV Cache占用可能高达数十GB75% 相似待验证自回归解码阶段每生成一个新token都需读取完整KV Cache，使解码阶段几乎总是受限于内存带宽而非计算能力75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/945118API
curl https://kongchang.com/api/v1/knowledge/claims/945118MCP
get_claim(id=945118)