[控场AI]
· 3 分钟阅读· 1,917 字

分层世界模型新突破:隐式动力学解耦长程规划

分层世界模型新突破:隐式动力学解耦长程规划

ID-WM 解耦状态可达性与局部控制,显著提升长程规划性能。

ID-WM(隐式动力学世界模型)针对长程规划中累积误差和搜索复杂度问题,提出分层解耦方案:高层模型在状态流形上采样可行状态转移,低层模型作为逆动力学求解器将子目标落地为精确动作。该方法不依赖刚性宏动作或显式技能发现,而是优先保证局部物理可行性,从而能从短片段合成训练中未见的长程计划。在三个导航与操作套件上,ID-WM 比先进策略规划和扩散规划器性能提升 38.5%;在复杂未见长程任务中,相比单层世界模型 MPC 获得 135% 的性能增益,验证了分层结构对复合误差的抑制效果。

长程规划的困境与分层世界模型的机遇

在具身智能领域,世界模型让智能体能够在测试时通过规划进行适应,其泛化能力优于直接策略学习。然而,长程任务始终受困于累积误差和搜索复杂度:每一步的微小偏差经过多步放大,最终导致规划失败。现有分层方法往往采用刚性的宏动作或潜在技能,这虽然降低了搜索空间,却牺牲了细粒度控制能力,使得表示变得脆弱。

据该研究指出,ID-WM(隐式动力学世界模型)的核心创新在于将状态空间可达性与局部控制解耦。高层模型负责在状态流形上采样可行的状态转移,低层模型则作为逆动力学求解器,将这些转移落地为精确动作。这种设计让规划器无需被低层执行细节所束缚,能够直接识别可达子目标。

分层世界模型架构示意

世界模型是强化学习与具身智能中的一类模型,它学习环境的动力学(状态转移与观测生成),使智能体能在“想象”中预测未来、评估动作,而无需在真实环境中反复试错。根据用途可分为预测型(前向动力学)与逆动力学模型;后者根据当前与目标状态反解动作。在测试时规划(test-time planning)设定下,智能体利用世界模型在线搜索动作序列,因而泛化能力通常优于直接策略学习。但模型预测存在误差,长程规划中误差逐步累积,是限制其应用的核心瓶颈。

解耦状态可达性与局部控制

传统分层强化学习常将技能预定义为宏动作序列,但这种方式在遇到训练分布外的场景时容易失效。ID-WM 的解决思路是优先考虑局部物理可行性,而非全局行为模式。具体而言,高层模型学习状态空间中哪些转移是可行的,低层模型则根据当前状态和目标状态反解出具体动作。这种“逆动力学”的视角使得模型能够从短片段中合成全新的长程计划,超越训练中见过的特定行为模式。

研究团队在三个导航与操作套件上验证了该方法。与当前先进的策略规划和基于扩散的规划器相比,ID-WM 取得了 38.5% 的性能提升。这一数字背后,是分层结构对复合误差的有效抑制——通过将长程任务分解为可达子目标序列,每一段短规划都能独立纠偏,避免误差沿时间轴累积。

模型预测控制(MPC) 是一种在线优化控制方法:在每个时间步,基于环境模型对未来有限时域内的动作序列进行优化,只执行第一步,然后滚动重复。将其用于世界模型时,规划器在潜在状态空间中采样或优化动作序列,以最小化到达目标的代价。MPC 的优势是能结合模型进行前瞻推理,但计算成本随时域长度与搜索空间增长;在长程任务中,单层 MPC 易受搜索深度限制或陷入局部最优,这正是分层方法试图缓解的问题。

性能验证:从短片段合成新计划

更关键的是,在复杂且未见过的长程任务配置中,ID-WM 相比单层世界模型 MPC(模型预测控制)获得了 135% 的性能增益。这一对比凸显了分层解耦的价值:单层世界模型在长程规划中容易陷入局部最优或受限于搜索深度,而 ID-WM 通过高层采样可达状态、低层求解动作的分工,显著降低了搜索复杂度。

从技术路线看,ID-WM 与近期将世界模型用于规划的趋势一脉相承,但它没有依赖大规模视频预训练或显式的技能发现,而是通过隐式动力学建模来实现灵活的分层。这种思路对于需要精细操作的长程任务尤其有价值,例如在杂乱环境中导航并操作物体,其中低层动作的精确性至关重要。

逆动力学模型与前向动力学模型相对:前向模型预测“给定状态和动作,下一状态是什么”,逆模型则回答“从当前状态到目标状态,应采取什么动作”。在分层规划中,逆动力学模型充当低层控制器/求解器,将高层给出的子目标转化为具体动作,从而把“去哪里”和“怎么去”解耦。其优点是不必预先定义宏动作,能从任意短片段中学习局部可控性;缺点是对多模态动作分布(同一状态转移可由多种动作实现)的建模提出更高要求。

对具身智能规划范式的启示

ID-WM 的提出为分层世界模型提供了新的设计范式:与其强制学习宏观行为模式,不如让高层专注于“去哪里”,低层专注于“怎么去”。这种分离使得规划器能够生成训练时未见过的行为组合,从而提升泛化能力。对于机器人操作、自动驾驶等长程任务,抑制累积误差是核心挑战,ID-WM 的层次化误差控制策略提供了一条可借鉴的路径。

当然,该方法目前仍依赖于状态流形上的采样效率,如何在高维视觉输入下保持高层模型的可扩展性,是未来值得关注的方向。研究团队已公开项目页面,展示了多个任务上的规划视频,为后续复现和对比提供了基础。

更多细节可访问项目主页:https://id-wm.github.io

#分层世界模型#ID-WM#隐式动力学#长程规划#具身智能#世界模型#模型预测控制#逆动力学
分享:

相关推荐