RT-2
谷歌DeepMind开发的机器人变换器模型,将视觉语言理解与机械臂控制统一在同一神经网络中的具身智能体
核心事实
时间轴 (近 90 天)
代表性VLA工作包括RT-2和OpenVLA,通常在海量图像-文本-动作三元组数据上预训练,具备一定的开放世界泛化能力。
VLA 模型的代表性工作包括 RT-2、OpenVLA 等,参数规模从数十亿到数百亿不等。
VLA(Vision-Language-Action)模型是一类将视觉感知、自然语言理解和动作生成统一在一个端到端架构中的多模态模型,通常以图像序列和语言指令作为输入,直接输出机器人关节角度、末端执行器位姿或离散动作 token。
VLA模型典型代表包括RT-2、OpenVLA、GR00T,通常在互联网规模的图文数据与大规模机器人操作数据上联合预训练。
动作模型的典型代表是视觉-语言-动作模型(VLA),如 RT-2、OpenVLA,通常以预训练多模态大模型为骨干,通过机器人数据微调后直接输出关节位置、末端执行器轨迹或离散动作 token。
机器人基础模型领域已有英伟达 GR00T 系列,开源社区有 RT-2、OpenVLA 等 VLA 模型在快速迭代。
RT-2 通过在互联网规模的图文数据与机器人演示数据上联合训练,使模型获得了一定的语义泛化与常识推理能力。
代表性VLA工作包括RT-2、OpenVLA、π0等。
典型的VLA架构代表包括Google的RT-2和物理智能的π0,VLA核心挑战在于VLM自回归解码速度低于机器人控制回路所需的10-50Hz实时频率
Google DeepMind 的 RT-2 和 π0(pi-zero)是具有代表性的 VLA 实现
还有 19 条时间轴事件
全部知识事实 (20)
Google DeepMind的RT-2首次将视觉-语言模型直接用于生成机器人动作指令
90%已验证VLA(Vision-Language-Action)模型是一类将视觉感知、自然语言理解和动作生成统一在一个端到端架构中的多模态模型,通常以图像序列和语言指令作为输入,直接输出机器人关节角度、末端执行器位姿或离散动作 token。
75%已验证VLA 模型将视觉感知、语言理解与机器人动作规划整合在统一模型中,通常以预训练的大型视觉语言模型为骨干,代表性工作包括 Google 的 RT-2 和 OpenVLA
75%已验证RT-2首次证明了VLA架构的可行性,通过将机器人动作离散化为token,让视觉语言模型直接输出动作序列
65%已验证DeepMind开发了VLA(视觉语言动作模型)系统,将机器人的物理动作与视觉token、语言token置于同等重要的位置处理
65%待验证Google DeepMind的RT系列包括RT-1、RT-2、RT-X,RT-1训练基础操作能力,RT-2将VLM与机器人动作关联,RT-X通过跨平台数据共享实现更强泛化
70%待验证RT-2(Robotics Transformer 2)直接用视觉-语言模型端到端生成机器人控制指令
70%待验证Google DeepMind于2023年发布的RT-2首次验证了在550亿参数的视觉语言模型上微调机器人控制的可行性,其泛化能力相比前代提升近一倍
60%待验证代表性VLA工作包括RT-2和OpenVLA,通常在海量图像-文本-动作三元组数据上预训练,具备一定的开放世界泛化能力。
50%待验证VLA 模型的代表性工作包括 RT-2、OpenVLA 等,参数规模从数十亿到数百亿不等。
50%待验证VLA模型典型代表包括RT-2、OpenVLA、GR00T,通常在互联网规模的图文数据与大规模机器人操作数据上联合预训练。
50%待验证动作模型的典型代表是视觉-语言-动作模型(VLA),如 RT-2、OpenVLA,通常以预训练多模态大模型为骨干,通过机器人数据微调后直接输出关节位置、末端执行器轨迹或离散动作 token。
50%待验证机器人基础模型领域已有英伟达 GR00T 系列,开源社区有 RT-2、OpenVLA 等 VLA 模型在快速迭代。
50%待验证RT-2 通过在互联网规模的图文数据与机器人演示数据上联合训练,使模型获得了一定的语义泛化与常识推理能力。
50%待验证代表性VLA工作包括RT-2、OpenVLA、π0等。
50%待验证典型的VLA架构代表包括Google的RT-2和物理智能的π0,VLA核心挑战在于VLM自回归解码速度低于机器人控制回路所需的10-50Hz实时频率
50%待验证RT-2 将 PaLM-E 等视觉语言大模型微调为输出机器人动作的控制器,展示了跨任务的零样本迁移能力
50%待验证Google DeepMind 的 RT-2 和 π0(pi-zero)是具有代表性的 VLA 实现
50%待验证VLA模型的代表性工作包括Google的RT-2、OpenVLA以及π0
50%待验证谷歌在三维世界理解方向的积累源自其长期机器人研究(如 RT-2 系列)与 Google Maps 三维建图经验
50%