待验证70% 置信事实精确时间
KV缓存通过缓存历史token的Key和Value向量,将注意力计算量从平方级降为线性增长
2
来源数
70%
置信度
长期有效
时效性
2026/9/8
首次发现
来源
涉及实体
相关事实
待验证线性注意力类架构使用固定维度的循环状态累积历史信息,该状态是已读上下文的有损压缩,维度远小于原始 KV 缓存。79% 相似待验证KV缓存在推理阶段复用历史token的Key与Value矩阵,避免对已生成序列重复执行注意力计算77% 相似已验证KV Cache通过缓存历史token的Key和Value向量复用,将推理计算复杂度从O(n²)降低到O(n),若缓存被错误截断、覆盖或会话间串扰会导致上下文错乱触发循环76% 相似待验证在自回归解码中,注意力层通常缓存所有历史 token 的 Key 和 Value(KV Cache),显存随序列长度线性增长,但每步只需追加、无需重算;SSM 层则只保留固定大小的状态。75% 相似已验证KV Cache机制中,复用已缓存的KV值为命中,上下文变化导致缓存失效需重新计算为未命中74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/879015API
curl https://kongchang.com/api/v1/knowledge/claims/879015MCP
get_claim(id=879015)