待验证50% 置信事实精确时间
Gated DeltaNet基于delta规则更新记忆状态,属于线性注意力的一种现代化实现;Mamba-2是状态空间模型(SSM)的代表。
1
来源数
50%
置信度
长期有效
时效性
2026/10/28
首次发现
来源
涉及实体
相关事实
待验证Mamba-2、Gated DeltaNet和KDA是三种新型状态更新机制,用于替代部分注意力层,以线性复杂度的递归结构实现高效状态记忆。79% 相似待验证多数 SSM 和线性注意力模型在底层都使用了线性注意力机制,Mamba-2 通过 SSD 结构实现,xLSTM 通过协方差更新实现。74% 相似待验证状态空间模型(SSM)把方向拉回固定大小的循环记忆,但使用不同的状态结构和更新规则72% 相似待验证DeltaNet 属于线性注意力/状态空间模型,用可更新的递归状态矩阵代替标准注意力中的全历史 KV 存储,计算与存储随序列长度呈线性增长而非平方增长。71% 相似已验证Mamba等状态空间模型(SSM)抛弃注意力机制,用循环结构实现线性时间复杂度的序列建模69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1105936API
curl https://kongchang.com/api/v1/knowledge/claims/1105936MCP
get_claim(id=1105936)