待验证50% 置信事实精确时间
KV 缓存大小随上下文长度线性增长，注意力计算量随上下文长度呈平方级增长。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
潜压缩技术：测试时训练革新KV缓存压缩
rss2026/10/14
涉及实体
相关事实
待验证KV缓存随上下文长度线性增长，增加解码阶段每步的内存读取量，是解码速度随上下文增大而下降的根本原因80% 相似待验证对于多轮对话或长文档问答，如果每次请求都重新计算整个上下文的 KV，算力开销会随上下文长度平方级增长。79% 相似已验证KV Cache（键值缓存）机制通过缓存自注意力层生成的 Key 和 Value 向量来避免重复计算以加速推理，但上下文越长需驻留显存的向量越多，内存压力呈近线性增长77% 相似待验证标准注意力的计算量随序列长度平方增长，而低秩瓶颈将变换分解为先压缩到r维再展开的两步77% 相似待验证线性注意力的KV Cache占用与序列长度无关，而传统注意力的缓存随序列长度线性增长75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037892API
curl https://kongchang.com/api/v1/knowledge/claims/1037892MCP
get_claim(id=1037892)