[控场AI]
· 5 分钟阅读· 2,666 字

WorldGuide:让视频世界模型真正执行程序性任务

WorldGuide:让视频世界模型真正执行程序性任务

WorldGuide 将程序性视频生成重构为视觉空间中的闭环任务执行,规划与执行联合训练显著提升任务成功率。

WorldGuide 指出,现有视频生成系统在长时序程序性任务中存在生成与执行的断层:开环方案无法据执行结果调整后续动作,依赖外部执行器的方案则割裂了决策与实现。为此,WorldGuide 提出闭环执行架构,由 Planner 预测下一步原子动作或判断完成,Executor 直接生成对应视频片段,二者在同一步骤级演示数据上联合训练,并以分层视觉记忆维持长时序状态、控制 token 成本。为支撑训练,作者构建了 WorldGuide Bench,含约 59K 条步骤标注视频、245 个任务、27 个程序类别。在 WorldGuide-Bench 上任务成功率达 33.33%,超过接收动作计划的 MiniMax-H3(29.90%);在 VideoCraft-Bench 目标条件下达 47.69%,远超后者的 32.73%。

视频生成的下一个前沿:从"看起来对"到"真的完成"

视频生成模型已经能合成逼真的视觉轨迹,但一个根本性的问题正在浮出水面:当任务需要几十个步骤、历时数分钟才能完成时,模型能否根据自己已经生成的内容,决定下一步该做什么?

这听起来像是一个规划问题,实际上却是生成与执行之间的断层。来自最新研究 WorldGuide 的工作指出,现有系统要么采用开环生成——无法根据执行结果调整后续动作;要么依赖预训练执行器或间接验证——造成"决定动作"与"实现动作"之间的鸿沟。

WorldGuide 研究概览

WorldGuide 的核心主张是:程序性视频生成本质上应该是视觉世界空间中的闭环任务执行。给定一张初始图像和一个任务目标,模型需要预测原子动作、生成对应视频片段,再利用生成结果选择下一步动作或判断任务结束。

闭环执行:规划器与执行器共享同一训练信号

WorldGuide 的架构围绕两个核心组件展开。Planner(规划器) 从视觉进展中学习预测下一个原子动作或判断任务是否完成;Executor(执行器) 则被直接训练来将预测动作转化为视频片段。

关键在于,这两个模块是在同一种步骤级程序演示数据上联合训练的。这与依赖外部预训练执行器的方案有本质区别:WorldGuide 的执行器本身就是为这套规划信号量身定制的。

长时序执行中的状态维持由分层视觉记忆完成。这种设计在保留历史信息的同时控制了 token 成本——对于需要数百步操作的任务来说,这是能否落地的前提。

为什么开环方案不够用

开环生成的问题在于,它假设生成的每一步都能"自动衔接"。但真实程序性任务中,前一步执行的细微偏差会逐步累积,导致后续动作完全偏离。WorldGuide 的闭环设计让模型在每一步都能"看到"自己生成的结果,并据此调整——这正是它能在任务成功率上拉开差距的原因。

开环与闭环控制系统的区别可以用一个简单类比理解:开环就像按预先写好的脚本行事,中途发生什么都不改变后续步骤;闭环则会把每一步的实际结果反馈回来,据此修正下一步。在经典自动控制理论中,闭环系统因具备误差反馈而通常比开环系统更稳定、更精确。视频生成过去长期是开环范式:给定一张图和目标,一次性(或按固定脚本逐段)生成完整视频。但在程序性任务中,每一段生成视频都可能与理想状态存在细微差异,开环系统无从感知这些差异,偏差会沿时间轴逐级放大,最终导致任务失败。WorldGuide 的闭环思路正是把"生成结果"当作反馈信号,让规划器在每一步重新评估视觉状态并决定下一步动作。

原子动作(atomic action) 指的是不可再分的、语义明确的最小操作单位,例如"拿起杯子""打开抽屉""旋转旋钮"。程序性任务通常由一串原子动作按特定顺序组成。之所以强调"原子",是因为它既足够小、便于视频模型生成短片段,又带有明确语义、便于规划器做序列决策。如果动作粒度过粗,执行器可能无法忠实实现;粒度过细,规划器又要承担冗长的序列推理,容易语义漂移。WorldGuide Bench 对每条数据标注的正是"当前视觉进展下该执行哪个原子动作",这层监督使规划器能学习从视觉状态到动作决策的映射,也解释了为什么原子动作粒度与任务复杂度之间的匹配会成为后续研究重点。

WorldGuide Bench:填补步骤级监督的空白

训练规划器-执行器联合模型面临一个现实障碍:缺乏步骤级的动作-视频监督数据。现有视频数据集通常只提供完整视频和任务标签,缺少"在某一视觉状态下应该执行什么原子动作"的细粒度标注。

WorldGuide Bench 的构建正是为了解决这一问题。它包含约 59K 条步骤标注视频,覆盖 245 个任务和 27 个程序类别。每条数据都标注了当前视觉进展对应的原子动作,使规划器能够学习从视觉状态到动作决策的映射。

这一数据集的规模在同类工作中相当可观,也为后续研究提供了可复用的评测基准。

世界模型(world model) 在视频生成语境中,指的是模型对"世界在下一次交互后会如何变化"的预测能力。传统视频世界模型的目标是生成视觉上合理、时间上连贯的未来帧;本文进一步把它推向"视觉空间中的操作完成"——不仅预测"接下来会看到什么",还要决策"接下来该做什么才能真正推进任务"。这实际上把视频世界模型与机器人领域的任务与运动规划(TAMP) 拉近:两者都要求在部分可观测状态下做长时序决策。WorldGuide 的价值在于用纯视觉生成的方式绕开显式状态估计与动作原语定义,让模型直接在像素空间中闭环执行,从而为机器人操作、教学视频生成等方向提供了新的范式参考。

实验结果:规划与执行的耦合带来实质提升

在 WorldGuide-Bench 上,WorldGuide 取得了 33.33% 的任务成功率。对比对象是近期表现强劲的视频模型 MiniMax-H3,后者在接收参考动作计划的条件下,成功率为 29.90%。

值得玩味的是,MiniMax-H3 在这个对比中获得了额外的动作计划输入,而 WorldGuide 没有——这进一步说明,单纯提供动作规划信息并不足以保证任务完成,执行器能否忠实实现规划才是瓶颈所在。

在 VideoCraft-Bench 上,差距更为明显:WorldGuide 达到 47.69% 的成功率,而 MiniMax-H3 在仅给定目标条件下只有 32.73%。两个基准的结果一致指向同一个结论:将规划与可学习的执行耦合,是目标导向程序性视频生成的关键。

这意味着什么

WorldGuide 的意义不只在数字上。它重新定义了视频世界模型的任务边界——不再只是"生成合理的视觉内容",而是"在视觉空间中完成操作"。这种视角转换的影响可能延伸到机器人操作、教学视频生成、交互式内容创作等多个方向。

当然,33.33% 的任务成功率也说明问题远未解决。长时序视觉记忆的效率、原子动作粒度与任务复杂度之间的匹配、以及跨类别泛化能力,都是后续工作需要持续攻克的方向。但至少,WorldGuide 证明了闭环规划-执行架构在程序性视频任务中的可行性,也给出了一个清晰的评测基准来追踪进展。

#WorldGuide#视频世界模型#程序性任务执行#闭环生成#视频生成基准#规划器执行器#WorldGuide Bench
分享:

相关推荐