模型GDN
Gated DeltaNet
一种结合门控机制与Delta规则线性注意力层的循环模型架构，属于线性注意力混合设计，处理长上下文时显存和算力开销低。
时间轴 (近 90 天)
10月16日
Mamba-2、Gated DeltaNet和KDA是三种新型状态更新机制，用于替代部分注意力层，以线性复杂度的递归结构实现高效状态记忆。
待验证50%
10月16日
Gated DeltaNet从DeltaNet出发加入门控机制，动态决定何时保留历史信息、何时覆盖旧状态，在需要精确回忆的任务上表现更稳定。
待验证50%
10月15日
NoteBank 是一个稀疏的情节记忆模块，可直接挂到预训练的循环模型和混合语言模型上，如 Gated DeltaNet（GDN）和 Mamba-2，不改变骨干网络的权重或架构，也不需要外部嵌入模型、单独训练的检索器或独立的阅读器网络。
待验证50%