[控场AI]
· 4 分钟阅读· 2,320 字

DreamTrue:动作忠实的机器人世界模型新突破

DreamTrue:动作忠实的机器人世界模型新突破

DreamTrue 通过跨本体视频预测与反事实后训练,将机器人交互缺陷率从 48.12% 降至 6.25%。

DreamTrue 是一个面向机器人学习的多视角、跨本体世界模型,目标是让模型准确预测自身动作将如何改变周围环境。针对现有机器人数据中标定不精确和成功样本偏多两大障碍,它采用将动作轨迹渲染到图像空间并离线几何标定的策略,提升跨本体动作跟随能力;同时引入反事实后训练,通过修改动作轨迹生成更广泛的交互样本,缓解成功偏差。由于反事实视频缺乏真实配对数据,研究者构建了具身视频奖励模型,用人工标注的缺陷数据训练并引导强化学习后训练。在 AgiBot 平台上,DreamTrue 取得最优动作跟随性能,将人工评估的交互缺陷率从 48.12% 降至 6.25%,并在 AgiBot World Challenge 2026 世界模型赛道排名第一。

在机器人学习领域,如何让模型准确预测自身动作将如何改变周围环境,一直是个核心难题。近期提出的 DreamTrue 世界模型,通过多视角、跨本体的视频预测框架,在动作忠实度与物理合理性上取得了显著进展。

DreamTrue 项目展示

机器人世界模型面临的两大障碍

训练一个能忠实反映动作后果的机器人世界模型,并非易事。DreamTrue 的研究者指出,现有机器人数据集存在两个主要问题。

其一是标定不精确。当模型试图理解“我执行了这个动作,所以画面应该这样变化”时,若相机标定或运动学参数存在误差,动作与视觉结果之间的对应关系就会失真,导致模型无法准确跟随动作指令。

其二是数据覆盖不均衡。大多数机器人数据集记录的是成功完成的任务,失败或无效的交互少之又少。这会让模型产生偏见,总倾向于预测“一切顺利”的未来,而忽略了真实世界中可能出现的碰撞、滑脱或卡顿。

这两个问题共同制约了世界模型在真实机器人控制中的可用性。

世界模型(World Model)是一类能够根据当前观察与智能体的动作,预测环境未来状态的生成式模型。在机器人领域,它通常以视频预测的形式存在:给定一段历史观测和一段即将执行的动作序列,模型需要“想象”出接下来画面会如何变化。这种能力被视为实现模型预测控制、离线规划与安全探索的基础。与传统的物理仿真器不同,世界模型不依赖显式建模刚体动力学,而是从海量视频数据中隐式学习环境演化的规律。也正因为如此,它对数据的标定质量与分布覆盖极为敏感——一旦观测与动作的对应关系出现偏差,或训练数据集中交互模式过于单一,模型学到的“物理直觉”就会系统性失真。

DreamTrue 的核心方法:从渲染条件到反事实训练

针对动作跟随问题,DreamTrue 采用了一种直观却有效的策略:将动作轨迹渲染到图像空间,形成视觉条件,再通过离线几何标定将这些条件与目标视频对齐。这样,模型看到的不再是抽象的动作向量,而是“动作在画面中应该留下怎样的痕迹”,从而跨不同机器人本体都能更好地理解动作意图。

为了拓宽交互覆盖范围,研究者引入了反事实后训练(counterfactual post-training)。简单来说,就是主动修改记录的动作轨迹,生成更广泛的动作与接触配置下的未来视频。这些“如果当时那样做会怎样”的虚拟样本,让模型见识到更多样的交互结果,包括那些现实中很少记录的不成功情况。

但新的问题随之而来:这些反事实视频没有配对的真实未来画面,如何判断模型预测得好不好?

跨本体(cross-embodiment)指的是让同一个模型能够处理不同形态机器人(如不同品牌、不同自由度的机械臂或移动平台)的动作与观测,而无需为每种本体单独训练。实现跨本体的难点在于,不同机器人的关节空间、运动学参数和相机布局往往差异巨大,直接输入原始动作向量会让模型难以泛化。DreamTrue 的思路是将动作统一投影到视觉空间——即把动作轨迹渲染成图像中的光流或痕迹条件,使模型面对的是“画面中物体如何移动”这一本体无关的表征。这种设计借鉴了计算机视觉中光流与轨迹条件生成的思路,让策略知识可以在不同硬件之间迁移,从而降低新平台的数据采集与训练成本。

用奖励模型引导物理合理性

DreamTrue 的解决方案是构建一个具身视频奖励模型。研究者收集并人工标注了一个视频数据集,涵盖了机器人缺陷、物体缺陷和交互缺陷三类问题,用它来训练奖励模型。这个奖励模型能够对预测视频的物理合理性打分,分数再用于强化学习后训练,推动模型生成更符合物理规律的交互结果。

这套“生成—评估—优化”的闭环,让 DreamTrue 在没有真实配对数据的情况下,依然能朝着正确的方向迭代。

奖励模型(Reward Model)最初在基于人类反馈的强化学习(RLHF)中被广泛使用:先让人工对模型输出进行偏好或质量标注,训练一个能自动打分的代理模型,再用这个分数作为强化学习的奖励信号。DreamTrue 将这一范式引入具身视频生成,专门训练了一个针对“物理合理性”的奖励模型。其标注体系分为机器人缺陷(如关节异常、本体穿模)、物体缺陷(如物体凭空消失或形变错误)和交互缺陷(如手物接触点错位、穿透)。由于反事实视频没有真实未来作为监督,奖励模型实际上承担了“代理真实”的角色,使强化学习能够在无配对数据的条件下仍然获得有意义的优化梯度。

实验表现与行业认可

在 AgiBot 平台上,DreamTrue 取得了当前最优的动作跟随性能。更引人注目的是,它将人工评估的交互缺陷率从 48.12% 降低到了 6.25%,改善幅度超过八成。这意味着模型预测的未来画面中,物理上不合理、动作与结果不匹配的情况大幅减少。

该模型还在 AgiBot World Challenge 2026 的世界模型赛道中排名第一,显示出其在学术与工程层面的双重认可。项目页面已公开,供研究者进一步查阅细节。

为什么这很重要

机器人世界模型的价值,在于它能作为“想象引擎”,让机器人在行动前预判后果,从而更安全、更高效地规划。DreamTrue 通过解决动作忠实度和数据偏见问题,让这个想象引擎更贴近真实物理世界。

从更广的视角看,反事实后训练与奖励模型引导的思路,也可能为其他需要预测动态环境的 AI 系统提供参考。当真实数据有限时,如何合成有价值的虚拟经验并自动评估其质量,正成为越来越关键的课题。

#DreamTrue#机器人世界模型#动作忠实#反事实后训练#具身视频奖励模型#AgiBot#跨本体视频预测
分享:

相关推荐