已验证65% 置信事实精确时间

KV Cache将Transformer增量生成的时间复杂度从O(L²)降至O(L)

3

来源数

65%

置信度

长期有效

时效性

2026/7/8

首次发现

来源

GPT-5.6 Ultra子Agent架构解析与AI行业十大动向

bilibili竹言见智2026/6/29

相关事实

已验证KV Cache将已计算的历史键值矩阵缓存在内存中，将自回归生成的复杂度从随序列长度平方增长降至线性73% 相似待验证Set Transformer通过引入可学习的诱导点（Inducing Points）将复杂度降至O(mn)69% 相似待验证快速傅里叶变换将DFT的计算复杂度从朴素的O(N²)降低到O(N log N)65% 相似待验证KV Cache机制避免了对历史Token的重复计算，但会随上下文长度线性增长占用显存64% 相似待验证分解子域策略可将步数复杂度从O((L/w)²)降低到O(L²/(N·w²))，其中N为子域数目64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/278936

API

curl https://kongchang.com/api/v1/knowledge/claims/278936

MCP

get_claim(id=278936)