待验证50% 置信事实精确时间
GDN（Gated DeltaNet）在线性注意力基础上引入门控机制与Delta规则，门控控制历史信息遗忘速率，Delta规则让状态更新近似于在线学习中的梯度步。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证KDA（Kernelized Delta Attention）将Delta规则核化，试图在递归状态和注意力之间找到更平滑的插值。72% 相似待验证DeltaNet 属于线性注意力/状态空间模型，用可更新的递归状态矩阵代替标准注意力中的全历史 KV 存储，计算与存储随序列长度呈线性增长而非平方增长。68% 相似待验证Gated DeltaNet基于delta规则更新记忆状态，属于线性注意力的一种现代化实现；Mamba-2是状态空间模型（SSM）的代表。67% 相似待验证DeltaNet是线性注意力的变体，用增量更新规则替代softmax注意力，将序列处理复杂度从O(n²)降至O(n)65% 相似待验证门控DeltaNet通过维护固定大小的隐状态矩阵，使推理时的内存占用与上下文长度无关63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1114520API
curl https://kongchang.com/api/v1/knowledge/claims/1114520MCP
get_claim(id=1114520)