[控场AI]
· 4 分钟阅读· 2,370 字

SpaceCast-Bench:视觉语言模型的预测性空间推理新基准

SpaceCast-Bench:视觉语言模型的预测性空间推理新基准

新基准 SpaceCast-Bench 首次诊断式评估预测性空间推理,最强模型仅58%远逊人类87%。

SpaceCast-Bench 是首个直接评估预测性空间推理的基准,采用 observe-transform-infer 框架,要求模型在观察场景后预判空间干预带来的变化并推理未观察到的结果。基准包含来自182个真实场景的3862个问题,覆盖16种任务类型,分为静态感知、局部预测和全局预测三个层级。对21个模型的评估显示,最强模型仅达58.0%准确率,人类为87.2%,空间专用模型几乎接近随机。控制实验发现桥接视图对整合分散观察至关重要,显式3D证据比生成图像或视频更可靠。微调可将Qwen3-VL-4B从34.0%提升至65.7%,但仍远低于人类水平。

空间智能一直是具身AI和机器人领域的核心挑战。现有的空间推理基准大多停留在“空间感知”层面——识别输入中已经可见的关系。但真正的空间智能需要预测性空间推理:从观察中构建场景、预判干预带来的变化,并对未观察到的结果进行推理。一篇新论文提出了 SpaceCast-Bench,号称是首个直接且诊断式评估这一能力的基准。

SpaceCast-Bench 论文截图

从感知到预测:为什么需要新基准

传统空间推理基准通常给模型一张图片,问“杯子在桌子的左边还是右边”。这类问题测试的是模型对静态图像中可见关系的读取能力,属于感知层面。然而,现实世界中的空间智能远不止于此。当你伸手去拿杯子时,你需要预测手移动后杯子会被遮挡多少、杯子的位置如何变化、以及是否会影响旁边的物体。

SpaceCast-Bench 的核心贡献在于提出了 observe-transform-infer(观察-变换-推理) 框架。模型需要先观察一个真实场景,然后面对某种空间干预(例如物体移动、视角变化),最后回答关于变换后场景的问题——而变换后的场景在输入中并未直接展示。

这个基准包含来自 182 个真实场景的 3,862 个问题,覆盖 16 种任务类型,分为三个层级:静态感知、局部预测和全局预测。层级越高,对场景理解、空间状态更新和未观察结果的关系推理要求越高。

视觉语言模型(VLM) 是 SpaceCast-Bench 评估的主要对象。这类模型将视觉编码器(如 ViT)与大型语言模型结合,使模型能够同时处理图像和文本输入,并输出自然语言回答。典型代表包括 GPT-4V、Qwen-VL 系列、LLaVA 等。VLM 在图像描述、视觉问答等任务上表现优异,但其空间理解能力长期存在争议——模型可能通过语言先验“猜对”答案,而非真正构建了空间表征。SpaceCast-Bench 的设计正是为了剥离这种捷径:由于变换后的场景不在输入中,模型无法仅靠识别可见内容作答,必须模拟空间变换并推理其结果。这一设置对 VLM 的底层空间世界模型提出了更纯粹的要求。

21个模型的表现:远低于人类水平

论文对 21 个模型进行了评估,结果揭示了明显的差距。最强的模型仅达到 58.0% 的准确率,而人类表现为 87.2%。更令人意外的是,专门针对空间任务优化的模型表现几乎接近随机猜测。

这说明当前视觉语言模型在处理“预测性空间推理”时存在系统性短板。即使模型能够准确描述图像内容,一旦要求它模拟场景变化并推理变化后的状态,性能就会大幅下降。

控制实验进一步发现,bridge views(桥接视图) 对于整合分散观察至关重要。所谓桥接视图,是指连接不同视角或时间点的中间帧。没有这些视图,模型难以将多个观察结果关联起来形成连贯的空间理解。

另一个有趣发现是,显式的 3D 证据(如点云或深度图)比生成的结果图像或视频更能稳定地帮助模型。这意味着让模型“想象”变换后的画面效果有限,而提供结构化的三维信息更为可靠。

桥接视图(bridge views) 的概念源自多视图几何与机器人视觉导航。当智能体从不同位置观察同一场景时,相邻视角之间往往存在重叠区域,这些重叠帧就充当了“桥梁”,帮助系统建立帧与帧之间的对应关系,进而拼接出连贯的空间表征。在人类认知中,类似的机制体现为扫视整合——我们通过眼球运动获取多个局部视图,大脑自动将其融合为统一的空间感知。SpaceCast-Bench 的控制实验表明,移除桥接视图后模型性能显著下降,说明当前 VLM 缺乏自主构建这种跨视图对应关系的能力,高度依赖输入中已提供的中间过渡信息。

微调能带来多大提升?

论文还探索了利用程序化生成的数据进行微调的效果。在 Qwen3-VL-4B 模型上,微调将其准确率从 34.0% 提升到 65.7%,并在六个域外基准上取得了宏观平均增益。

这一结果有两个含义:一方面,预测性空间推理能力可以通过针对性训练显著改善;另一方面,即使经过微调,65.7% 距离人类 87.2% 仍有不小差距,说明这一任务对当前架构来说依然困难。

从应用角度看,这项研究对机器人操作、自动驾驶和AR/VR交互都有直接参考价值。这些场景都要求系统不仅理解当前空间状态,还要预测动作或环境变化后的结果。SpaceCast-Bench 提供了一个可量化的诊断工具,帮助研究者定位模型在空间推理链条中的具体薄弱环节。

论文标题:SpaceCast-Bench: Evaluating Predictive Spatial Reasoning in Vision-Language Models

随着具身智能的发展,预测性空间推理很可能成为衡量视觉语言模型实用性的关键指标之一。SpaceCast-Bench 的出现,为这一方向设立了新的评估标准。

程序化生成数据(procedurally generated data) 指通过算法和规则自动合成的训练样本,而非人工标注的真实数据。在 SpaceCast-Bench 的微调实验中,研究者利用程序化方法生成大量带有精确空间变换标注的场景-问题对,使模型能够学习“物体移动后场景如何变化”的规律。这种方式的优势在于可大规模扩展、标注精确且成本低廉,尤其适合空间推理这类难以人工穷举的任务。但程序化数据也面临域差距问题:合成场景的纹理、光照和物体分布与真实世界存在差异,模型可能学到表面统计规律而非可泛化的空间推理能力,这也是微调后仍有较大性能差距的潜在原因之一。

#SpaceCast-Bench#预测性空间推理#视觉语言模型#空间推理基准#VLM评估#具身智能#3D证据
分享:

相关推荐