机器人学习的“安全”到底指什么？CoRL 2026 参会随想

安全不再是事后检查，而是设计前提

一位即将参加 CoRL 2026 的研究者在 Reddit 上分享了他浏览 600 多篇接收论文后的观察：VLA（视觉-语言-动作）模型如预期般大量出现，但真正让他意外的是“安全”以极其具体的形式高频现身——超过 50 篇论文与安全相关，且大多在解决碰撞规避、人形机器人平衡保持、人群中的安全导航、传感器缺失下的鲁棒性，以及阻止学习到的策略执行不安全动作等实际问题。

这个观察触及了一个被广泛讨论却少有系统回答的问题：当模型“知道该做什么”和机器人“能在真实世界中安全地选择并执行动作”之间，究竟隔着多少工程与设计工作？从这批论文的分布来看，答案可能是：隔着一整套从硬件、控制栈到策略层的协同设计。

VLA（视觉-语言-动作）模型是一类将视觉感知、自然语言指令与机器人动作生成统一到单一模型中的具身智能架构。典型做法是以预训练视觉-语言模型为骨干，把语言指令和摄像头图像编码为多模态表示，再由动作头解码为末端执行器位姿、关节目标或离散动作序列。其优势在于能借助互联网规模的图文预训练获得语义泛化，使机器人理解“把红色杯子放到水槽左边”这类开放指令；代价是动作输出缺乏形式化安全保证，分布外场景下可能生成物理上不可行或危险的指令，这正是文中“策略层安全”问题突出的根源。

安全的三个具体战场

碰撞与物理约束

碰撞规避是安全论文中最直观的一类。无论是机械臂抓取还是移动操作，系统需要在动作执行前预判并排除会导致物理接触风险的轨迹。这类工作的难点不在于检测碰撞本身，而在于让学习到的策略在推理时把碰撞约束内化为动作选择的一部分，而非依赖外挂的急停模块。

人形与动态平衡

人形机器人的安全挑战在于动态稳定性。保持平衡不是静态的姿态维持，而是在扰动、地形变化和接触不确定性下持续调整。相关论文关注的是如何让学习到的控制策略在接近失稳边界时仍能做出安全响应，这要求安全机制与控制频率、状态估计精度深度耦合。

传感器缺失与策略安全边界

真实部署中传感器掉线、遮挡或噪声是常态。部分论文专门处理“缺失感知输入时如何不做出危险动作”的问题，另一部分则试图为学习策略界定安全动作集，防止策略在分布外状态下输出高风险指令。

分布外状态指机器人运行时遇到的、明显偏离训练数据分布的感知或状态输入，例如光照突变、未见过的物体、传感器短暂失效或人机距离异常接近。学习到的策略在分布外状态下往往表现出过度自信的错误输出，且误差会随闭环执行累积放大，因此单纯提高模型容量并不能带来安全保证。工程上常见的应对包括：用不确定性估计或异常检测在推理时识别分布外输入并触发降级策略，用安全滤波器对策略输出做投影或裁剪，以及在训练中引入域随机化以扩大策略的鲁棒工作域。

CMU 的 Pixel：低成本平台的安全启示

原帖作者还提到 CMU 的 Pixel 项目——一套基于 AgileX Robotics 两条机械臂、总成本低于 1.5 万美元的全栈移动操作平台，同样会在 CoRL 亮相。它的核心思路是把基于 UMI 的人类演示转化为碰撞感知的全身机器人行为，而非完全依赖机器人数据采集。

说个细节，作者特别指出 Pixel 并未完全消除机器人数据——接触密集型任务仍需在机器人上做修正——但恰恰是这一点让结果更可信。这种坦诚反而增强了工作的说服力，也提示了一条务实路径：用商用机械臂做协同设计，让实验室不必绑定单一垂直整合供应商就能搭建有能力的平台。

作者随后抛出一个看似无聊却极其实用的问题：当这条机械臂去抓一个它从未针对调校过的新物体时，在闭合之前会执行什么检查？这个问题把安全从论文指标拉回到部署现场——采购方的下一个问题往往不是模型多强，而是系统在未见过的情况下如何兜底。

**UMI（Universal Manipulation Interface）**是一种手持式数据采集范式：操作者手持带夹爪和摄像头的轻量装置完成演示，系统通过视觉定位与运动重建把人类手部轨迹转化为机器人可执行的末端轨迹，从而绕开昂贵的遥操作设备与真机示教。其关键价值在于数据采集成本低、场景多样性强，但转化为机器人行为时需处理运动学可行性、碰撞约束与接触动力学差异，这也是 Pixel 强调“碰撞感知的全身行为转换”的原因。

从“检查项”到“第一天就要设计”

综合原帖的观察，一个趋势判断逐渐清晰：安全正在从项目末期的一个勾选项，转变为必须从第一天就嵌入硬件选型、控制栈和策略训练的设计维度。50 多篇安全相关论文的存在说明社区已经意识到，事后加装的安全层无法弥补策略本身的不安全倾向，也无法替代硬件层面的物理限制设计。

这对研究者和工程团队的含义是：安全不是某个模块的职责，而是系统级属性。碰撞感知需要进入演示数据转换流程，平衡约束需要进入控制策略的训练目标，安全动作边界需要与感知不确定性联合建模。作者表示今年会持续跟踪这一主题，也向社区提问：你最期待哪些论文、演讲或 demo？

（本文基于 Reddit 单一来源的参会观察，所述论文数量与项目细节均引自原帖，未做独立核实。）

安全滤波器是控制与机器人领域的一类运行时保障机制，位于学习策略与底层控制器之间，对策略输出的期望动作进行在线修正，使其满足碰撞、关节限位、力矩或稳定性等硬约束，典型方法包括控制屏障函数与基于可达性分析的安全集投影。它与“外挂急停”的区别在于：安全滤波器在每一控制周期求解约束优化，尽量在保持任务意图的前提下最小化对策略的修改，从而把安全从离散的开关动作变成连续的动作空间约束。