待验证50% 置信事实精确时间
线性注意力或SSM层能以接近线性的复杂度处理长序列，但在精确召回与复杂推理上往往弱于全注意力。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
已验证SSM在长序列处理上具有线性时间复杂度优势，而标准Transformer的注意力计算复杂度为序列长度的平方79% 相似待验证HSTU采用线性复杂度的注意力变体，使其处理长度超过数千的行为序列时计算量不会出现平方级增长78% 相似待验证稀疏注意力通过只让每个token关注序列中的子集，将计算复杂度降至接近线性76% 相似待验证Kimi delta attention是线性注意力方向上的改进，用增量式状态更新替代对全序列的显式缓存，将内存复杂度从随长度增长降到接近常数。73% 相似待验证线性注意力、稀疏注意力和State Space Models（如Mamba）能将计算复杂度降至线性级别，为百万级上下文窗口打开大门73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1105458API
curl https://kongchang.com/api/v1/knowledge/claims/1105458MCP
get_claim(id=1105458)