待验证50% 置信事实精确时间
自回归生成阶段每生成一个新token需对所有历史token重新计算注意力，计算量随序列长度呈O(n²)增长，KV Cache可将复杂度降至O(n)的增量操作
1
来源数
50%
置信度
长期有效
时效性
2026/7/7
首次发现
来源
AI工作区会话与缓存泄露：多租户隔离安全风险全解析
hackernewshackernews2026/7/4
相关事实
待验证自回归模型生成长序列时注意力机制计算复杂度随序列长度呈二次增长，且误差会累积导致音色漂移71% 相似已验证自注意力机制使计算复杂度随序列长度呈二次方增长，上下文从1000扩展至4000 token计算量增加16倍68% 相似待验证14倍的提升由多因子叠加而来：批处理贡献3-4倍、内存优化贡献1.5-2倍、会话复用与线程调优再叠加若干67% 相似待验证在Transformer模型推理过程中，KV Cache（键值缓存）会随对话增长不断膨胀，导致注意力分数分布越来越平坦，模型难以精准聚焦当前任务相关信息66% 相似待验证长程任务的Token消耗呈O(N²)二次方增长，因每步都需传入不断增长的上下文历史66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/202303API
curl https://kongchang.com/api/v1/knowledge/claims/202303MCP
get_claim(id=202303)