待验证50% 置信事实精确时间
KV Cache只缓存K和V而不缓存Q，因为Q只在当前步被使用，用完即弃，而历史的K、V在后续每一步都会被重新访问
1
来源数
50%
置信度
长期有效
时效性
2026/9/23
首次发现
来源
涉及实体
相关事实
待验证上下文越长，模型需要缓存的 KV Cache 越大，KV Cache 使模型生成新 Token 时无需重新计算所有历史 Token 的注意力权重74% 相似待验证KV Cache（键值缓存）用于避免自回归生成时对历史 token 的重复计算，但长上下文场景下预填充阶段需占用大量 HBM 显存带宽，拉长首 token 延迟（TTFT）73% 相似已验证KV Cache通过缓存已计算的Key和Value矩阵避免重复运算，PagedAttention等进阶技术进一步优化缓存内存管理效率70% 相似待验证使用 KV Cache 后每轮 Q 投影只需计算 1×D_k 的向量，而无缓存时需计算 N×D_k 的完整矩阵70% 相似待验证硬盘缓存机制将已计算的KV Cache持久化到存储介质中，当后续请求前缀与缓存命中时可直接复用，跳过重复的前向传播68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/942619API
curl https://kongchang.com/api/v1/knowledge/claims/942619MCP
get_claim(id=942619)