已验证75% 置信事实精确时间

自回归生成阶段每生成一个新token需对所有历史token重新计算注意力，计算量随序列长度呈O(n²)增长，KV Cache可将复杂度降至O(n)的增量操作

3

来源数

75%

置信度

长期有效

时效性

2026/7/7

首次发现

来源

AI工作区会话与缓存泄露：多租户隔离安全风险全解析

hackernewshackernews2026/7/4

相关事实

待验证不缓存K和V时每次生成都要对整个上下文重新计算，时间复杂度是O(n²)74% 相似待验证自回归模型生成长序列时注意力机制计算复杂度随序列长度呈二次增长，且误差会累积导致音色漂移71% 相似待验证传统注意力机制在推理时需为每个序列预分配连续的 KV Cache 显存，导致严重的内部与外部碎片。68% 相似已验证自注意力机制使计算复杂度随序列长度呈二次方增长，上下文从1000扩展至4000 token计算量增加16倍68% 相似待验证标准注意力的计算量随序列长度平方增长，而低秩瓶颈将变换分解为先压缩到r维再展开的两步67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/202303

API

curl https://kongchang.com/api/v1/knowledge/claims/202303

MCP

get_claim(id=202303)