[控场AI]
基准

WOVEN

WOVEN 是一个多模态大模型视觉转移推理(visual transition reasoning)的基准测试与训练数据集,按场景、动作、推理类型三维度标注,数据来自视频预训练生成模型的 rollout,旨在评测和提升 MLLM 对视觉状态随动作变化进行建模的能力。

时间轴 (近 90 天)

10月13日

论文提出多模态大模型在空间、具身、物理、时间推理上的缺陷可能都源于同一种能力缺失——视觉转移推理(visual transition reasoning)。

待验证50%
10月13日

WOVEN 是按场景、动作、推理类型三个维度标注视觉转移监督的数据源与基准测试,数据来自视频预训练生成模型的 rollout。

待验证50%
10月13日

WOVEN 的最终规模为 36,076 条样本、20 种场景类型、5 种动作类型、8 种推理类型。

待验证50%
10月13日

使用生成模型 rollout 作为数据来源存在分布偏移风险:生成模型自身的物理先验可能带有偏差或简化,使数据无法完全反映真实世界的复杂动态。

待验证50%
10月13日

在 WOVEN 评测中,即便最强的 MLLM 也远低于人类水平,失败模式在不同模型家族中反复出现,单纯扩大模型规模并不能消除这些缺陷。

待验证50%
10月13日

每个约 2000 条样本的 WOVEN 训练子集,合计提升 26 个外部基准中的 22 个,最高提升 27.3 个百分点。

待验证50%
10月13日

WOVEN 数据可以替代某个任务自身 30%–50% 的训练数据,且精度相当。

待验证50%
10月13日

WOVEN 论文给出的训练配方建议:按监督所教的推理操作来选数据,而不是按动作、场景或领域来选;并优先选择视觉状态变化更大的样本以获得更好的鲁棒性。

待验证50%
10月13日

WOVEN 的论点实质上是把 MLLM 的部分缺陷归因于世界模型能力的缺失——即模型虽能描述图像内容,却不能模拟其随动作演化。

待验证50%
10月13日

如果视觉转移推理确实是一种可迁移的共享能力,那么多模态世界模型的训练思路需要调整:先建立对视觉状态变化的通用建模,再迁移到具体任务,而非给每个下游任务单独堆数据。

待验证50%

全部知识事实 (10)

待验证

如果视觉转移推理确实是一种可迁移的共享能力,那么多模态世界模型的训练思路需要调整:先建立对视觉状态变化的通用建模,再迁移到具体任务,而非给每个下游任务单独堆数据。

50%
待验证

WOVEN 是按场景、动作、推理类型三个维度标注视觉转移监督的数据源与基准测试,数据来自视频预训练生成模型的 rollout。

50%
待验证

WOVEN 的最终规模为 36,076 条样本、20 种场景类型、5 种动作类型、8 种推理类型。

50%
待验证

使用生成模型 rollout 作为数据来源存在分布偏移风险:生成模型自身的物理先验可能带有偏差或简化,使数据无法完全反映真实世界的复杂动态。

50%
待验证

在 WOVEN 评测中,即便最强的 MLLM 也远低于人类水平,失败模式在不同模型家族中反复出现,单纯扩大模型规模并不能消除这些缺陷。

50%
待验证

每个约 2000 条样本的 WOVEN 训练子集,合计提升 26 个外部基准中的 22 个,最高提升 27.3 个百分点。

50%
待验证

WOVEN 数据可以替代某个任务自身 30%–50% 的训练数据,且精度相当。

50%
待验证

WOVEN 论文给出的训练配方建议:按监督所教的推理操作来选数据,而不是按动作、场景或领域来选;并优先选择视觉状态变化更大的样本以获得更好的鲁棒性。

50%
待验证

WOVEN 的论点实质上是把 MLLM 的部分缺陷归因于世界模型能力的缺失——即模型虽能描述图像内容,却不能模拟其随动作演化。

50%
待验证

论文提出多模态大模型在空间、具身、物理、时间推理上的缺陷可能都源于同一种能力缺失——视觉转移推理(visual transition reasoning)。

50%

来源文章