待验证50% 置信事实精确时间

上下文长度的显存消耗随长度增加呈近似平方级增长，因注意力机制需维护 KV Cache 存储历史 Token 中间状态

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

本地大模型怎么选？四个标准帮你精准对号入座

涉及实体

上下文长度concept KV Cacheconcept Transformerconcept

相关事实

已验证KV Cache通过缓存历史token的注意力键值对，避免每步生成时对全部历史序列的重复计算，降低长序列生成的时延和算力消耗74% 相似待验证将用户过去数周乃至数月的操作历史原封不动塞入上下文窗口会导致 token 消耗呈线性甚至指数级增长68% 相似待验证更长的上下文会显著增加内存占用和推理延迟67% 相似待验证注意力机制计算当前 token 与所有历史 token 相关性的时间复杂度为 O(n²)，其中 n 为序列长度64% 相似已验证当新信息与旧记忆冲突时，记忆层必须能够识别并更新，而非固守过时认知63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/984402

API

curl https://kongchang.com/api/v1/knowledge/claims/984402

MCP

get_claim(id=984402)