Dreamer
DeepMind开发的基于世界模型的强化学习算法系列,通过在模型构建的潜在空间中训练策略,在Atari和3D环境基准上实现高效的样本利用
核心事实
时间轴 (近 90 天)
世界模型是一类学习环境动态规律、能预测状态演化的模型,典型代表包括 Ha & Schmidhuber 的 World Models、Dreamer 系列以及 Genie、GameNGen 等生成式环境模型。
经典MBRL实现(如Dreamer、MuZero)通常需要显式预测下一帧观测或奖励。
潜在世界模型的吸引力在于计算效率高、便于长程推演,Dreamer 系列和基于联合嵌入预测架构(JEPA)的方法都属于这一谱系。
世界模型主张让AI学习环境动态演化规律,代表性工作包括Dreamer、Genie等。
世界模型是强化学习与机器人领域的一类方法总称,其核心思想是让智能体学习一个内部模拟器,典型代表包括 Dreamer、PlaNet 以及基于视频预测的 Genie 等。
LFP头的思路源自自监督学习中的世界模型研究传统,如Dreamer系列和JEPA(联合嵌入预测架构)。
近年来世界模型的代表性工作包括 Genie、Dreamer 系列及各类视频预测基础模型。
冻结世界模型训练策略的代价是:如果世界模型本身有偏差,策略会针对偏差过拟合,即出现'模型利用'(model exploitation)现象。
Dreamer采用'KL平衡'技巧,对后验与先验分别施加不同梯度方向,使两者在动态中相互靠拢而不塌缩。
Dreamer的策略学习采用Actor-Critic框架:Actor根据想象出的潜在状态s_t输出动作分布,Critic估计该状态的价值;梯度通过世界模型的潜在轨迹回传,但世界模型参数通常被冻结以避免策略优化信号污染世界模型的学习目标,从而保持训练稳定。
还有 7 条时间轴事件
全部知识事实 (18)
DeepMind、Meta AI等机构推出了DreamerV3、JEPA等代表性世界模型工作
65%部分验证世界模型是一类学习环境动态规律、能预测状态演化的模型,典型代表包括 Ha & Schmidhuber 的 World Models、Dreamer 系列以及 Genie、GameNGen 等生成式环境模型。
65%待验证经典MBRL实现(如Dreamer、MuZero)通常需要显式预测下一帧观测或奖励。
50%待验证潜在世界模型的吸引力在于计算效率高、便于长程推演,Dreamer 系列和基于联合嵌入预测架构(JEPA)的方法都属于这一谱系。
50%待验证世界模型主张让AI学习环境动态演化规律,代表性工作包括Dreamer、Genie等。
50%待验证世界模型是强化学习与机器人领域的一类方法总称,其核心思想是让智能体学习一个内部模拟器,典型代表包括 Dreamer、PlaNet 以及基于视频预测的 Genie 等。
50%待验证LFP头的思路源自自监督学习中的世界模型研究传统,如Dreamer系列和JEPA(联合嵌入预测架构)。
50%待验证近年来世界模型的代表性工作包括 Genie、Dreamer 系列及各类视频预测基础模型。
50%待验证Dreamer采用'KL平衡'技巧,对后验与先验分别施加不同梯度方向,使两者在动态中相互靠拢而不塌缩。
50%待验证Dreamer的策略学习采用Actor-Critic框架:Actor根据想象出的潜在状态s_t输出动作分布,Critic估计该状态的价值;梯度通过世界模型的潜在轨迹回传,但世界模型参数通常被冻结以避免策略优化信号污染世界模型的学习目标,从而保持训练稳定。
50%待验证冻结世界模型训练策略的代价是:如果世界模型本身有偏差,策略会针对偏差过拟合,即出现'模型利用'(model exploitation)现象。
50%待验证在Dreamer复现实践中,潜在状态的随机分量需要恰当的KL约束,过强会丢失信息,过弱则导致后验崩溃;想象轨迹长度与批次大小共同决定梯度质量,两者都需要根据任务调整。
50%待验证Dreamer 系列采用在模拟中训练策略的思路,将规划成本摊薄到训练阶段
50%待验证Dreamer 系列工作让智能体完全在潜在空间中学习策略,无需渲染真实像素
50%待验证早期世界模型的代表性工作包括 DeepMind 的 Dreamer 系列以及 OpenAI 在 Dota 2 中使用的环境模型
50%待验证Dreamer 系列(DreamerV1/V2/V3)通过引入离散潜在变量和改进的世界模型损失函数,将世界模型框架推向更复杂的连续控制任务
50%待验证Dreamer 系列在多个 Atari 和 3D 环境基准上达到了与无模型强化学习相当甚至更优的性能
50%待验证世界模型可以是显式物理模拟器(如MuJoCo、Isaac Sim),也可以是学习得到的隐式模型(如Dreamer系列算法的循环状态空间模型)
50%