[控场AI]
· 4 分钟阅读· 2,080 字

EmbodiedWorld-200K:用视频世界模型训练具身智能体

EmbodiedWorld-200K:用视频世界模型训练具身智能体

EmbodiedWorld-200K 以 20 万级标注数据和视频世界模型内 RL 后训练,推动开放世界具身智能体。

本文介绍 EmbodiedWorld-200K 数据集及配套视频世界模型训练方案,旨在构建通用具身世界智能体(EWA)。该数据集含超 20 万样本,提供相机运动轨迹、语义指令等从低到高的多层级标注与统一评测划分。研究团队提出以视频世界模型作为低成本环境代理,在其中对智能体进行交互式强化学习后训练,绕开昂贵真实环境搭建。实验表明,在该数据集上预训练可显著提升开放世界具身规划能力,而世界模型内 RL 后训练进一步在分布外场景带来明显增益,验证了"数据集预训练 + 世界模型内 RL 后训练"流水线的有效性。数据集、基线检查点与训练评测代码均已开源。

具身智能体要在开放世界中自由行动,仅靠单一场景的任务训练远远不够。近期发布的 EmbodiedWorld-200K 数据集与配套的视频世界模型训练方案,为构建通用具身世界智能体(Embodied World Agents, EWA)提供了一条低成本、可扩展的新路径。

EmbodiedWorld-200K 项目概览

什么是具身世界智能体(EWA)

研究团队将这类智能体定义为:能够在多样化的 3D 视觉环境中感知、推理并执行通用动作的系统。与当前多数局限于特定任务、单一场景的工作不同,EWA 的核心能力是理解开放世界的视觉输入,并在未见过的环境中完成导航与规划。

论文指出,现有研究对开放世界场景下的通用具身智能体探索仍然不足,模型在新环境中的迁移能力普遍较差。这构成了该工作的出发点:先解决"看得懂、走得通"的开放世界导航规划问题。

具身智能体(Embodied Agent)指拥有物理或虚拟身体、能通过感知—决策—行动的闭环与环境交互的智能系统,与仅在静态文本或图像上被动推理的模型相区别。其核心难点在于部分可观测性、动作空间连续性与长程规划。开放世界(Open World)进一步要求智能体在训练分布之外的场景中保持鲁棒,这对视觉表征的泛化性与空间推理能力提出更高要求。分布外泛化(Out-of-Distribution, OOD)是衡量此类能力的常用指标:模型在未见场景、新布局或新指令组合上的表现。本文强调的导航与规划,正是开放世界具身任务中最基础也最具挑战的环节。

EmbodiedWorld-200K:20 万级多层级标注数据集

为支撑 EWA 的离线预训练与公平评测,团队构建了 EmbodiedWorld-200K。该数据集包含超过 20 万个样本,覆盖多种场景,每个样本都配有从底层到高层的多级标注:

  • 低层标注:相机运动轨迹,描述智能体在空间中的移动路径;
  • 高层标注:语义指令,定义任务目标与行为意图;
  • 统一评测划分:提供标准化的数据划分与任务专属指标,便于不同方法之间的公平比较。

这种"轨迹 + 指令"的双层结构,让模型既能学习空间运动规律,也能理解语言层面的任务语义,为开放世界导航规划打下基础。

视频世界模型充当低成本交互环境

离线数据只能提供监督信号,而 EWA 的本质特征是与环境交互。仅靠离线训练,模型很难泛化到训练分布之外的场景。但搭建专用的真实交互环境成本极高,这成为制约交互式训练的主要瓶颈。

研究团队提出的方案是:用一个视频世界模型作为环境的低成本代理,在其中对 EWA 进行交互式强化学习(RL)后训练。智能体在世界模型生成的"虚拟环境"中执行动作、获得反馈并优化策略,从而绕开昂贵真实环境搭建。

这一思路的价值在于把"环境"变成了可学习、可复用的模型组件——世界模型的质量直接决定后训练的效果,同时也为后续扩展更多场景提供了可能。

视频世界模型(Video World Model)是一类以视频生成为核心的预测模型,其目标是学习环境的状态转移规律:给定当前观测与智能体的动作,预测下一时刻的视觉观测。与仅做单帧预测的动力学模型不同,视频世界模型需要保持时序一致性、空间几何合理性与长程连贯性。在具身智能中,它被视为一种可微、可查询的"学习型模拟器"——智能体可在其中低成本试错,无需真实机器人或仿真引擎。其典型训练方式是在大规模视频数据上做自监督预测,推理时以自回归或扩散方式逐段生成未来画面。该范式的关键挑战在于动作条件建模、误差累积与生成质量评估,而生成质量与动作对齐精度直接决定了 RL 后训练能否得到可靠策略。

实验结果:预训练与 RL 后训练的双重收益

实证结果给出了两个层面的结论:

  1. 在 EmbodiedWorld-200K 上预训练,能显著提升 EWA 的开放世界具身规划能力;
  2. 进一步在世界模型内部进行 RL 后训练,在分布外(out-of-distribution)场景上带来明显增益。

第二点尤其关键——它说明交互式后训练确实能弥补离线数据在泛化上的短板,验证了"世界模型作为环境代理"这一训练范式的有效性。

开源资源与后续影响

团队已公开数据集、基线模型检查点以及训练与评测代码,项目主页为 xiaokunfeng.github.io/EmbodiedWorld-200K。

从研究趋势看,将视频生成模型用作具身智能的训练环境,正在成为降低交互数据成本的重要方向。EmbodiedWorld-200K 的贡献不只是数据规模,更在于它把"数据集预训练 + 世界模型内 RL 后训练"串成了一条完整的训练流水线,为开放世界具身智能体的研究提供了可复现的基线。

对于关注具身智能、世界模型与强化学习交叉领域的研究者和开发者而言,这套开源资源值得跟进。

#EmbodiedWorld-200K#具身智能体#世界模型#强化学习#开放世界导航#具身规划#数据集
分享:

相关推荐