[控场AI]
· 4 分钟阅读· 2,004 字

GUILD:用迭代引导数据收集提升模仿学习效率

GUILD:用迭代引导数据收集提升模仿学习效率

UT Austin提出GUILD,用VLM语义先验与数据归因主动引导机器人数据收集。

机器人模仿学习依赖昂贵的人工遥操作数据,盲目收集会产生大量对策略贡献甚微的冗余样本,事后筛选只能补救而无法阻止无效数据的产生。UT Austin研究团队提出GUILD引导式数据收集方法,将数据收集视为可优化的闭环过程,交替执行任务提议与数据收集、数据评估两个步骤。任务提议阶段利用视觉语言模型的语义先验识别相关环境、物体配置与目标任务;数据评估阶段通过预测性数据归因近似估计已收集轨迹对部署场景下策略性能的影响,并将该信号反馈指导下一轮采集。在仿真与真实机器人平台上,GUILD在样本效率和部署性能上均优于被动收集、多个基线方法以及专家手动收集,为降低机器人学习的数据成本提供了系统化路径。

机器人模仿学习通常依赖昂贵的人工遥操作采集数据,而不加引导的收集方式往往产生大量对策略性能贡献甚微的冗余数据。近期研究显示,对已有数据集进行筛选能提升策略表现,但这只是事后补救,无法阻止无效数据的产生。为此,来自UT Austin的研究团队提出GUILD——一种引导式数据收集(Guided Data Collection, GDC)方法,通过主动推理“该收集什么数据”来最大化下游策略性能。

GUILD方法概览

从被动筛选到主动引导

传统模仿学习的数据收集流程高度依赖操作员的直觉,收集到的轨迹质量参差不齐。尽管数据筛选方法能剔除低质量样本,但筛选本身不改变收集阶段的盲目性——无效数据仍然被采集,成本已经发生。GUILD的核心洞察在于将数据收集视为一个可优化的闭环过程,而非一次性动作。它通过迭代框架交替进行两个步骤:任务提议与数据收集,以及数据评估。这种闭环设计让收集策略能够根据评估反馈动态调整,从而在源头减少无用数据的产生。

模仿学习(Imitation Learning) 是机器人技能获取的主流范式之一,其基本设定是:由人类专家通过遥操作等方式演示任务,将产生的状态-动作序列作为监督信号训练策略网络。与强化学习依赖奖励信号试错不同,模仿学习直接从演示中学习,因而样本效率较高、训练稳定,但代价是演示数据的采集本身极为昂贵——操作员需要反复执行任务,且轨迹质量高度依赖操作员水平。

遥操作(Teleoperation) 指操作员通过手柄、主从臂、VR设备等远程控制器操纵机器人完成动作,系统同步记录关节角、末端位姿、图像等传感数据。它是当前机器人演示数据的主要来源,但采集速度通常远低于机器人实际执行速度,且长时间操作易导致疲劳与一致性下降。这解释了为何数据收集成本成为模仿学习规模化的核心瓶颈,也构成 GUILD 试图优化的对象。

语义先验与预测归因的协同

在任务提议阶段,GUILD利用视觉语言模型(VLM)的语义先验来识别相关的环境、物体配置和目标任务。例如,模型可以推断哪些场景组合更可能对目标策略产生信息增益。然而,语义相关性并不等同于策略性能提升——一个场景在语义上合理,未必能提供对策略学习最有价值的梯度信号。因此,GUILD引入数据评估阶段,通过预测性数据归因(predictive data attribution)来近似估计已收集轨迹对目标部署场景下策略性能的影响。这一归因信号被反馈给收集环节,指导下一轮数据采集的方向。

视觉语言模型(VLM, Vision-Language Model) 是在大规模图文对上预训练的模型,能够联合理解图像内容与自然语言描述,典型能力包括开放词汇物体识别、场景关系推理与常识判断。在机器人领域,VLM 常被用作“语义先验”来源,用于判断某个物体或场景配置是否与目标任务相关。其优势是无需针对具体任务重新训练即可给出可用的常识推理,局限则是其判断停留在语义层面,无法直接反映某个样本对策略梯度或参数更新的实际贡献。

数据归因(Data Attribution) 是机器学习中量化“单个训练样本对模型输出或性能影响”的一类方法,常见思路包括影响函数(Influence Functions)、留一法近似以及基于 Shapley 值的贡献分配。预测性数据归因则进一步引入一个代理模型,在未真正用该数据训练目标策略的前提下,预测某条轨迹若被加入训练集会带来多大的性能变化。这一近似避免了反复重训练的高昂开销,但也意味着归因精度受代理模型质量制约——这正是 GUILD 反馈信号可靠性的关键前提。

实验验证:仿真与真实机器人

研究团队在仿真环境和真实机器人平台上评估了GUILD。与被动数据收集策略、多个基线方法以及经验丰富的机器人专家的手动收集相比,引导式数据收集在样本效率和部署性能上均表现出显著优势。这意味着,在相同的数据预算下,GUILD能够更快地训练出性能更好的策略,减少对昂贵遥操作时间的浪费。对于机器人学习而言,数据收集成本一直是规模化落地的瓶颈,而GUILD提供了一种系统化降低这一成本的技术路径。

技术意义与局限

GUILD的价值在于将“数据收集”从依赖人类直觉的工程环节,转变为可计算、可优化的算法问题。它结合了VLM的语义理解能力和数据归因的定量评估,形成了一套可迭代的主动学习框架。不过,该方法目前仍依赖VLM的语义先验质量,且预测性归因的准确性会影响反馈信号的有效性。此外,在更复杂的开放环境中,任务提议的覆盖度和归因模型的泛化能力仍需进一步验证。

更多信息可访问项目页面:https://robin-lab.cs.utexas.edu/guild2026/

分享:

相关推荐