SpaceCast-Bench
评估视觉语言模型预测性空间推理能力的基准,提出observe-transform-infer框架,包含来自182个真实场景的3862个问题,覆盖16种任务类型和三个层级。
时间轴 (近 90 天)
SpaceCast-Bench 是首个直接且诊断式评估预测性空间推理能力的基准。
SpaceCast-Bench 提出了 observe-transform-infer(观察-变换-推理)框架,要求模型观察真实场景、面对空间干预,并回答关于变换后场景的问题,而变换后的场景并未在输入中直接展示。
SpaceCast-Bench 包含来自 182 个真实场景的 3,862 个问题,覆盖 16 种任务类型,分为静态感知、局部预测和全局预测三个层级。
在 SpaceCast-Bench 上评估的 21 个模型中,最强模型仅达到 58.0% 的准确率,而人类表现为 87.2%。
专门针对空间任务优化的模型在 SpaceCast-Bench 上表现几乎接近随机猜测。
控制实验发现,bridge views(桥接视图)对于整合分散观察至关重要,移除后模型性能显著下降。
在 Qwen3-VL-4B 模型上,利用程序化生成的数据进行微调,将其在 SpaceCast-Bench 上的准确率从 34.0% 提升到 65.7%,并在六个域外基准上取得宏观平均增益。
即使经过微调达到 65.7% 的准确率,距离人类 87.2% 的水平仍有不小差距。
SpaceCast-Bench 可应用于机器人操作、自动驾驶和 AR/VR 交互等场景,提供可量化的诊断工具。
全部知识事实 (9)
SpaceCast-Bench 是首个直接且诊断式评估预测性空间推理能力的基准。
50%待验证SpaceCast-Bench 提出了 observe-transform-infer(观察-变换-推理)框架,要求模型观察真实场景、面对空间干预,并回答关于变换后场景的问题,而变换后的场景并未在输入中直接展示。
50%待验证SpaceCast-Bench 包含来自 182 个真实场景的 3,862 个问题,覆盖 16 种任务类型,分为静态感知、局部预测和全局预测三个层级。
50%待验证在 SpaceCast-Bench 上评估的 21 个模型中,最强模型仅达到 58.0% 的准确率,而人类表现为 87.2%。
50%待验证专门针对空间任务优化的模型在 SpaceCast-Bench 上表现几乎接近随机猜测。
50%待验证控制实验发现,bridge views(桥接视图)对于整合分散观察至关重要,移除后模型性能显著下降。
50%待验证在 Qwen3-VL-4B 模型上,利用程序化生成的数据进行微调,将其在 SpaceCast-Bench 上的准确率从 34.0% 提升到 65.7%,并在六个域外基准上取得宏观平均增益。
50%待验证即使经过微调达到 65.7% 的准确率,距离人类 87.2% 的水平仍有不小差距。
50%待验证SpaceCast-Bench 可应用于机器人操作、自动驾驶和 AR/VR 交互等场景,提供可量化的诊断工具。
50%