VLA推理加速10倍还能安全?CARE认证框架给出答案

CARE 在形式化失败风险保证下为 VLA 推理加速 9–10.8 倍,且认证成本仅为穷举的五分之一。
文章解读了 CARE 论文如何为视觉-语言-动作(VLA)模型的推理加速提供统计安全保证。现有动作分块、视觉 token 剪枝等加速手段只报告平均任务成功率,掩盖了闭环执行中级联失败带来的尾部风险。CARE 不发明新算子,而是把「选哪个加速配置」变成带置信边界的决策问题:在 95% 置信度下保证至少 85.8% 的参考已解 episode 成功,同时获得 9.0–10.8 倍加速,认证仅需约 5,263 次 rollout,远低于穷举的 25,000 次。文章也指出其局限——依赖静态校准集,仅在四个 LIBERO 套件和两个智能体上验证,更适合部署前的配置筛选而非运行时监控,并建议基准测试与部署流水线采纳其认证选择器与失败触发 rollout 协议。
视觉-语言-动作(VLA)模型正在成为机器人控制的主流范式,但推理延迟始终是落地瓶颈。加速手段层出不穷——动作分块、视觉token剪枝、量化编译——可它们普遍只报告平均任务成功率,掩盖了闭环执行中可能出现的级联失败。一篇名为 CARE 的论文试图打破这种「安全与性能不可兼得」的惯性认知:在给出形式化失败风险保证的前提下,实现 9.0–10.8 倍的推理加速。

平均成功率为什么不够用
现有 VLA 加速器追逐的是原始延迟指标。动作分块(action chunking)把多步动作打包预测,视觉 token 剪枝压缩感知输入,这些技巧确实能把单次推理压到很低,但评估方式停留在「平均任务成功率」上。
问题在于闭环轨迹中的失败具有级联性:一次动作偏差会让机器人进入训练分布之外的状態,后续每一步都在错误的基础上叠加误差,最终整条 episode 崩溃。这种失败在平均值里可能只体现为几个百分点的下降,实际部署中却是不可接受的安全隐患。论文明确指出的正是这一点——仅看平均成功率,无法约束加速带来的尾部风险。
分布外(out-of-distribution, OOD)状态是理解级联失败的关键。VLA 模型通常在专家示教或仿真采样的轨迹分布上训练,策略学到的是「在这个状态该出什么动作」的条件映射。一旦某一步动作有偏差,机器人到达的关节构型、物体位姿或视觉画面就偏离了训练支撑集,模型输出的动作质量随偏离程度快速退化,形成偏差自我放大的循环。这也是为什么开环的逐帧误差指标无法预测闭环表现:单步误差小不代表不累积。评估 VLA 时常用的闭环 rollout(让策略在仿真或真机中连续执行整条 episode)正是为了捕捉这类累积效应,而「平均成功率」把成功与失败的 episode 简单平均,恰恰抹掉了失败集中在少数轨迹尾部这一结构信息。
CARE 做了什么:把加速变成可认证的选择
CARE(Certifying Acceleration for Vision-Language-Action Inference)的核心思路不是发明一种新的加速算子,而是为「选哪个加速配置」提供一个带统计保证的决策流程。
它的认证目标可以概括为:在用户给定的失败预算下,保证至少 85.8% 的参考已解 episode 仍然成功,置信度 95%。在这个约束内,系统可以放开手脚选择最激进的加速方案,从而拿到 9.0–10.8 倍的推理提速。
换言之,CARE 把「加速」从工程调参变成了一个带风险边界的优化问题。形式化保证与性能增益在这里并存,而不是互相妥协。
**统计置信下界(lower confidence bound)**是这类认证方法的数学骨架。给定一个校准 episode 集合,在某加速配置下逐个 rollout,统计成功比例,再用二项分布或 Clopper-Pearson 区间给出成功率的置信下界。所谓「95% 置信度下保证至少 85.8% 成功」,意思是:若真实成功率低于 85.8%,抽到的校准集观察到当前或更好结果概率不超过 5%。因此校准集规模直接决定保证的紧致程度——样本越少,下界越保守,可选的加速档位越少。这也解释了为什么 CARE 要把 rollout 预算压到五千量级:它需要在统计有效性与验证成本之间取平衡,而不是简单地多测。
认证成本:比穷举测试便宜五倍
一个带保证的方法如果验证代价高得离谱,就失去了实用价值。CARE 在这方面给出了相当有说服力的数字:认证过程所需的 rollout 数量约为穷举测试的五分之一。
论文原文提到,CARE 的评估成本最低,使用 5,263 次 rollout 而非 25,000 次,并将 H1 评估从 1,000 次 rollout 降到 113 次。对机器人团队来说,这意味着部署前的验证周期和算力开销都能显著压缩。
论文还进一步建议,未来的 VLA 基准测试应当用 CARE 认证的选择器替代朴素的延迟基线作为默认评估协议;部署流水线也应采用「失败触发的参考 rollout」,而不是在部署前做穷举式测试。
边界在哪里:静态校准集与有限验证
CARE 的保证并非无条件成立。它的统计保证依赖一个静态校准集,且目前只在四个 LIBERO 套件和两个智能体(Qwen3.5-9B、Llama-3.1-8B)上得到验证。
这留下两个开放问题:当模型规模继续扩大、部署环境持续演化时,静态校准集是否还能覆盖真实分布;在线自适应场景下,认证是否仍然有效。论文对此保持诚实,没有把结论外推到自己未验证的范围。
从工程视角看,这意味着 CARE 目前更适合作为部署前的配置选择工具,而非运行时的持续安全监控。对于需要在线学习或环境频繁变化的场景,还需要额外的机制来补充。
LIBERO 是机器人操作领域常用的模仿学习基准,包含 spatial、object、goal、long 等套件,覆盖空间关系、物体泛化、目标条件和长程多阶段任务。它的优势是标准化、可复现,局限则在于任务分布相对固定、场景多样性低于真实部署环境。因此「四个 LIBERO 套件上验证通过」并不等于在开放世界中成立:校准集若来自 LIBERO,统计保证只对与 LIBERO 同分布的 episode 有效。论文提到的两个智能体(Qwen3.5-9B、Llama-3.1-8B)属于中等规模 VLA 主干,模型规模继续增大时,动作分布与失败模式可能改变,校准集需要重新采集,保证不能自动迁移。
对 VLA 部署流程的启示
CARE 的价值不止于一个加速数字。它提示了一种评估范式的转变:从「平均成功率 + 延迟」的双指标,转向「在失败预算约束下的加速倍数」这一更有部署意义的度量。
对做机器人产品的团队而言,可行的落地路径是先在小规模校准集上建立参考 episode 集合,再用 CARE 式的认证流程筛选加速配置,最后把失败触发的参考 rollout 嵌入部署流水线。这套流程的额外成本可控,却能换来对尾部风险的可见性。
安全与性能是否真的互斥?CARE 给出的答案是否定的——前提是你愿意为「保证」付出可量化的验证成本,而不是用平均值掩盖风险。
相关推荐

3分钟看懂DeepSeek:从量化私募到开源AI领跑者的崛起之路
3分钟看懂DeepSeek发展史:从幻方量化的算力积累,到V2的MLA推理降本、V3的557.6万美元训练账单、R1开源引爆全球,再到V4与70亿美元A轮融资,梳理深度求索的关键节点与技术路线。

本地文学创作模型PK:Qwen3.8 27B微调版胜出,DeepSeek v4.1表现平淡
B站UP主横向测评七款本地文学创作模型:海明威、HumanLike Chat基于Qwen3.8 27B微调表现最佳,DeepSeek v4.1叙事平淡,东方朔角色混乱垫底。附三道测试题评分与使用建议。

梁文锋的三次豪赌:DeepSeek为何将82%毛利开源?
DeepSeek为何把82%毛利的推理框架DeepInfer开源,又启动千亿融资?从技术路线、国产芯片到组织纯粹性,解析梁文锋的三次豪赌与开源战略背后的商业与理想逻辑。