[控场AI]
基准

SpaceCast-Bench

评估视觉语言模型预测性空间推理能力的基准,提出observe-transform-infer框架,包含来自182个真实场景的3862个问题,覆盖16种任务类型和三个层级。

时间轴 (近 90 天)

10月13日

SpaceCast-Bench 是首个直接且诊断式评估预测性空间推理能力的基准。

待验证50%
10月13日

SpaceCast-Bench 提出了 observe-transform-infer(观察-变换-推理)框架,要求模型观察真实场景、面对空间干预,并回答关于变换后场景的问题,而变换后的场景并未在输入中直接展示。

待验证50%
10月13日

SpaceCast-Bench 包含来自 182 个真实场景的 3,862 个问题,覆盖 16 种任务类型,分为静态感知、局部预测和全局预测三个层级。

待验证50%
10月13日

在 SpaceCast-Bench 上评估的 21 个模型中,最强模型仅达到 58.0% 的准确率,而人类表现为 87.2%。

待验证50%
10月13日

专门针对空间任务优化的模型在 SpaceCast-Bench 上表现几乎接近随机猜测。

待验证50%
10月13日

控制实验发现,bridge views(桥接视图)对于整合分散观察至关重要,移除后模型性能显著下降。

待验证50%
10月13日

在 Qwen3-VL-4B 模型上,利用程序化生成的数据进行微调,将其在 SpaceCast-Bench 上的准确率从 34.0% 提升到 65.7%,并在六个域外基准上取得宏观平均增益。

待验证50%
10月13日

即使经过微调达到 65.7% 的准确率,距离人类 87.2% 的水平仍有不小差距。

待验证50%
10月13日

SpaceCast-Bench 可应用于机器人操作、自动驾驶和 AR/VR 交互等场景,提供可量化的诊断工具。

待验证50%

全部知识事实 (9)

来源文章