待验证50% 置信事实精确时间

无缓存情况下 N 步生成的总时间复杂度量级大致为 N²·D² + N³·D

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

深入理解 KV Cache：大模型推理的空间换时间优化

涉及实体

KV Cacheconcept

相关事实

待验证复合分区的复杂度随维度指数级增长，N个时间分区乘以M个哈希桶意味着N×M个物理分区对象，大多数业务用单层时间分区已足够72% 相似待验证快速傅里叶变换将DFT的计算复杂度从朴素的O(N²)降低到O(N log N)71% 相似待验证NTT（数论变换）能将多项式乘法的复杂度从 O(n²) 降至 O(n log n)69% 相似待验证对于批量大小为N的mini-batch，样本对关系蒸馏需要计算的样本对数量为N(N-1)/2，复杂度为O(N²)69% 相似待验证成对距离计算的时间复杂度为O(n²)，在词表规模较大时需要引入负采样或随机子集近似来控制计算开销67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/923483

API

curl https://kongchang.com/api/v1/knowledge/claims/923483

MCP

get_claim(id=923483)