论文DEQ / 深度平衡模型

Deep Equilibrium Models

提出用隐式求平衡点替代多层堆叠的序列模型架构，通过求解不动点实现等效无限深度，是循环/权重共享架构的理论来源之一

时间轴 (近 90 天)

10月27日

Deep Equilibrium Models 等隐式深度模型与 MetaPred 以收敛性作为训练目标的思路有理论呼应。

待验证50%

10月18日

循环架构的思想可追溯到 Universal Transformer 与 Deep Equilibrium Models，通过增加计算深度而不增加参数数量来提升推理能力。

待验证50%

Deep Equilibrium Models 等隐式深度模型与 MetaPred 以收敛性作为训练目标的思路有理论呼应。

循环架构的思想可追溯到 Universal Transformer 与 Deep Equilibrium Models，通过增加计算深度而不增加参数数量来提升推理能力。