Unverified50% confidenceFactExact time
滑动窗口注意力由 Beltagy 等人在 Longformer(2020)中提出,将复杂度从 O(n²) 降至 O(n×w)
1
Sources
50%
Confidence
Long-term
Relevance
7/25/2026
First Seen
Sources
Related Claims
UnverifiedGated Delta Net将状态空间复杂度从标准注意力的O(N²)降到O(N)量级68% similarUnverified分解子域策略可将步数复杂度从O((L/w)²)降低到O(L²/(N·w²)),其中N为子域数目65% similarUnverified快速傅里叶变换将DFT的计算复杂度从朴素的O(N²)降低到O(N log N)64% similarUnverified自回归生成阶段每生成一个新token需对所有历史token重新计算注意力,计算量随序列长度呈O(n²)增长,KV Cache可将复杂度降至O(n)的增量操作62% similarUnverifiedUkkonen 的对角线剪枝可将编辑距离计算的平均复杂度降至 O(k×min(m,n)),其中 k 为编辑距离阈值62% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/615546API
curl https://kongchang.com/api/v1/knowledge/claims/615546MCP
get_claim(id=615546)