待验证50% 置信事实精确时间
线性注意力将softmax核替换为可分解的相似度函数φ(q)·φ(k)，利用矩阵乘法结合律将O(L²)的序列建模改写为线性复杂度形式。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
状态空间模型的对角等价：检索秩与选择性扩展新解
rss2026/11/2
涉及实体
相关事实
待验证SAGA 通过引入近端算子（proximal operator）技巧支持 L1 正则，同时保持方差缩减性质68% 相似待验证线性注意力的前向计算可以写成矩阵乘法的闭合形式，从而允许用偏差-方差分解、随机矩阵理论等工具进行严格的渐近分析68% 相似待验证RecurrentGemma采用线性循环单元（LRU）架构，将注意力计算复杂度从随序列长度二次增长降至线性复杂度65% 相似待验证论文采用线性-softmax策略模型，推导出将参数更新拆分为语义分量和风格分量的精确分解64% 相似待验证聚类前可做L2归一化或改用以余弦距离为度量的Spherical K-Means变体来解决模长主导问题64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1130840API
curl https://kongchang.com/api/v1/knowledge/claims/1130840MCP
get_claim(id=1130840)