[控场AI]
· 3 分钟阅读· 1,979 字

Kyutai REKI:2.4B VLA模型为机器人操作引入高效记忆

Kyutai REKI:2.4B VLA模型为机器人操作引入高效记忆

Kyutai 等发布 2.4B 参数 VLA 模型 REKI,仅用公开数据预训练并内置低成本近期记忆,权重全开放。

Kyutai 联合 Inria 与 École des Ponts 发布 24 亿参数的视觉-语言-动作模型 REKI,面向机器人操作任务。其亮点不在规模,而在两点:完全基于公开数据完成预训练,显著降低复现门槛与数据合规风险;以及内置对近期历史的轻量记忆机制,以结构设计而非堆参数换取时序推理能力。在三个分布外基准上,只有参数量约为其两倍的模型才能超越它,体现出较高的参数效率。全部权重已公开,可作为研究与工程团队的微调基线。不过文章也提醒,基准数字与真实硬件部署之间仍有距离,结论需第三方复现检验。

Kyutai 联合 Inria 与 École des Ponts 发布了 REKI——一个拥有 24 亿参数的视觉-语言-动作(VLA)模型,专门面向机器人操作任务。它的核心卖点并非参数规模,而是两件事:只用公开数据预训练,以及一个成本极低的“近期记忆”机制。

Kyutai REKI 发布信息截图

一个“小而够用”的 VLA 模型

REKI 的 2.4B 参数在当前 VLA 赛道里属于中等偏下的体量。对比之下,不少同类工作动辄数十亿甚至更大规模。Kyutai 团队的选择很明确:不追逐参数军备竞赛,而是把预算花在数据效率和记忆结构上。

据 MarkTechPost 的报道,REKI 完全基于公开数据完成预训练。这一点值得单独拎出来说——机器人操作领域的高质量演示数据往往掌握在少数实验室和公司手中,能仅靠公开数据训出一个有竞争力的 VLA,意味着复现门槛和合规风险都显著降低。

VLA(Vision-Language-Action)模型是一类将视觉感知、自然语言指令与机器人动作输出统一到同一神经网络中的模型。与仅做图像分类或文本生成的模型不同,VLA 需要把多模态输入映射为可执行的低层控制信号(如关节位置、末端执行器位移),因此通常需要在机器人演示数据上做行为克隆式训练。其核心挑战在于跨模态对齐、动作时序建模以及对未见场景的泛化。近年来该方向从早期的专用策略网络逐步转向大规模预训练加微调的范式,但高质量机器人数据稀缺始终是瓶颈。

低成本记忆:让模型记住“刚才发生了什么”

REKI 最受关注的设计是它携带的“cheap memory of its recent past”。机器人操作是典型的时序任务:抓取、移动、放置,每一步都依赖前几步的状态。纯当前帧输入的策略容易在长程任务中丢失上下文。

REKI 的做法是在模型中嵌入对近期历史的轻量记忆,而不是外挂一个庞大的视频理解模块。这种设计取向与“用更大模型换更强能力”形成对照——用结构上的巧思换取时序推理能力,同时把推理成本压在可接受范围内。

分布外(Out-of-Distribution, OOD)在机器人学习中指测试时的场景布局、物体类别、光照条件或指令组合与训练分布存在系统性差异的情形。由于真实世界的长尾特性,机器人在部署中几乎必然遇到训练分布之外的输入,因此 OOD 泛化能力比分布内精度更能反映实用价值。评测时通常将模型置于未见过的环境或任务变体中,观察任务成功率下降幅度。泛化差距越小,说明模型学到的表征越接近任务本质而非表面统计相关。

分布外基准:只有两倍体量的模型能赢它

衡量 VLA 泛化能力的关键是分布外(out-of-distribution)表现。据原文披露,在三个分布外基准上,只有参数量约为 REKI 两倍的模型才能超过它。

这个结果的含义有两层。其一,REKI 在未见过的场景、物体或指令组合上具备不错的迁移能力,这与它仅用公开数据预训练的背景相互印证。其二,参数效率是它的真实优势——用一半的体量达到接近的水平,对实际部署的算力预算相当友好。

需要说明的是,原文没有逐一列出这三个基准的具体名称和对比模型清单,因此这一结论更适合作为方向性参考,而非严格的排名依据。

“embodiment”指机器人本体的具体形态与传感器-执行器配置,例如不同自由度的机械臂、夹爪与灵巧手、移动底盘或人形结构。跨 embodiment 迁移要求策略在动作空间维度、运动学约束和控制频率不同的本体之间共享知识,是 VLA 从实验室走向通用机器人的关键障碍。常见做法是采用统一动作表示或本体特定适配层,但至今仍缺乏公认的评测标准,这也是衡量 REKI 等模型实际适用边界时需注意的一点。

权重开放意味着什么

所有模型权重已经公开可用。对于机器人学习的研究者和工程团队来说,这意味着可以直接在 REKI 基础上做微调、评测或二次开发,而不必从零训练一个 VLA。

结合“仅公开数据预训练”这一点,REKI 的开放性在同赛道中相对少见。它降低了进入 VLA 研究的门槛,也让社区有了一个可审计、可复现的基线。

一些冷静的判断

REKI 的定位很清楚:不是追求 SOTA 榜单第一,而是证明在有限参数和公开数据条件下,VLA 也能具备可用的操作能力和泛化性。记忆机制的引入是其中最有信息量的部分——它提示了一条不同于“堆规模”的技术路线。

不过,机器人操作的真正难点往往在真实硬件的鲁棒性、长程任务的误差累积以及跨 embodiments 的迁移。基准数字和真实部署之间仍有距离,REKI 的实际表现还需要更多第三方复现来检验。

#Kyutai REKI#VLA模型#机器人操作#视觉语言动作模型#开源模型权重#分布外泛化
分享:

相关推荐