GRU
一种经典的循环神经网络变体，通过门控机制缓解梯度消失问题，结构比LSTM更简洁，广泛用于序列建模任务
时间轴 (近 90 天)
部分可观测指单个agent无法获知环境完整状态，只能看到局部信息；多智能体系统中需建模为Dec-POMDP，GRU等循环网络常被用来维护时序记忆。
循环状态空间模型（RSSM）由确定性循环路径（GRU）和随机路径（潜变量）组成：确定性状态h_t由前一时刻h_{t-1}与动作a_{t-1}通过RNN更新，随机状态z_t从由h_t参数化的先验分布中采样。这种混合设计兼顾了长程记忆与多模态不确定性表达。
LSTM和GRU通过引入门控机制（遗忘门、输入门、输出门）缓解梯度消失问题，让模型自己决定状态更新的节奏
seq2seq早期实现多基于LSTM或GRU，现代实现则大量采用Transformer架构中的注意力机制，后者能更有效处理长距离依赖
循环网络结构（如LSTM/GRU）通过维护随时间步更新的隐藏状态，赋予智能体记忆历史观测的能力，从而在部分可观测环境中做出连贯决策
在1024步序列上，PLUG和ILRM的初始token平均梯度稳定保持在约10⁻⁴量级，而标准GRU梯度低至约10⁻¹⁴⁵出现数值下溢
PLUG和ILRM仅在16-64步延迟上训练，成功外推到4096步，在一比特信息保留任务上达到100%准确率，而基线标准GRU退化到随机猜测水平
传统RNN（包括GRU、LSTM）的核心痛点是历史信息在反向传播时以指数速率衰减，导致梯度消失
RNN存在梯度消失和无法并行计算两大硬伤，LSTM和GRU通过门控机制缓解了梯度消失问题
LSTM和GRU通过门控机制缓解了标准RNN的长程依赖难题
还有 4 条时间轴事件
全部知识事实 (15)
传统RNN存在梯度消失问题，实践中更常用LSTM和GRU来解决
60%待验证部分可观测指单个agent无法获知环境完整状态，只能看到局部信息；多智能体系统中需建模为Dec-POMDP，GRU等循环网络常被用来维护时序记忆。
50%待验证循环状态空间模型（RSSM）由确定性循环路径（GRU）和随机路径（潜变量）组成：确定性状态h_t由前一时刻h_{t-1}与动作a_{t-1}通过RNN更新，随机状态z_t从由h_t参数化的先验分布中采样。这种混合设计兼顾了长程记忆与多模态不确定性表达。
50%待验证LSTM和GRU通过引入门控机制（遗忘门、输入门、输出门）缓解梯度消失问题，让模型自己决定状态更新的节奏
50%待验证seq2seq早期实现多基于LSTM或GRU，现代实现则大量采用Transformer架构中的注意力机制，后者能更有效处理长距离依赖
50%待验证循环网络结构（如LSTM/GRU）通过维护随时间步更新的隐藏状态，赋予智能体记忆历史观测的能力，从而在部分可观测环境中做出连贯决策
50%待验证PLUG和ILRM仅在16-64步延迟上训练，成功外推到4096步，在一比特信息保留任务上达到100%准确率，而基线标准GRU退化到随机猜测水平
50%待验证在1024步序列上，PLUG和ILRM的初始token平均梯度稳定保持在约10⁻⁴量级，而标准GRU梯度低至约10⁻¹⁴⁵出现数值下溢
50%待验证传统RNN（包括GRU、LSTM）的核心痛点是历史信息在反向传播时以指数速率衰减，导致梯度消失
50%待验证RNN存在梯度消失和无法并行计算两大硬伤，LSTM和GRU通过门控机制缓解了梯度消失问题
50%待验证LSTM和GRU通过门控机制缓解了标准RNN的长程依赖难题
50%待验证解决POMDP的经典方法是维护信念状态（belief state），但在高维空间中计算上不可行；现代深度强化学习通过LSTM或GRU等循环结构隐式维护历史信息
50%待验证现代深度强化学习通过在策略网络中引入循环结构（如LSTM或GRU）来隐式维护历史信息以处理POMDP
50%待验证在Transformer出现之前，主流的序列建模方法是循环神经网络（RNN）及其变体LSTM和GRU
50%待验证GRU（门控循环单元）由Cho等人于2014年提出，通过更新门和重置门两个门控机制控制信息流动，相比LSTM参数更少、训练更快
50%