WOVEN
WOVEN 是一个多模态大模型视觉转移推理(visual transition reasoning)的基准测试与训练数据集,按场景、动作、推理类型三维度标注,数据来自视频预训练生成模型的 rollout,旨在评测和提升 MLLM 对视觉状态随动作变化进行建模的能力。
时间轴 (近 90 天)
论文提出多模态大模型在空间、具身、物理、时间推理上的缺陷可能都源于同一种能力缺失——视觉转移推理(visual transition reasoning)。
WOVEN 是按场景、动作、推理类型三个维度标注视觉转移监督的数据源与基准测试,数据来自视频预训练生成模型的 rollout。
WOVEN 的最终规模为 36,076 条样本、20 种场景类型、5 种动作类型、8 种推理类型。
使用生成模型 rollout 作为数据来源存在分布偏移风险:生成模型自身的物理先验可能带有偏差或简化,使数据无法完全反映真实世界的复杂动态。
在 WOVEN 评测中,即便最强的 MLLM 也远低于人类水平,失败模式在不同模型家族中反复出现,单纯扩大模型规模并不能消除这些缺陷。
每个约 2000 条样本的 WOVEN 训练子集,合计提升 26 个外部基准中的 22 个,最高提升 27.3 个百分点。
WOVEN 数据可以替代某个任务自身 30%–50% 的训练数据,且精度相当。
WOVEN 论文给出的训练配方建议:按监督所教的推理操作来选数据,而不是按动作、场景或领域来选;并优先选择视觉状态变化更大的样本以获得更好的鲁棒性。
WOVEN 的论点实质上是把 MLLM 的部分缺陷归因于世界模型能力的缺失——即模型虽能描述图像内容,却不能模拟其随动作演化。
如果视觉转移推理确实是一种可迁移的共享能力,那么多模态世界模型的训练思路需要调整:先建立对视觉状态变化的通用建模,再迁移到具体任务,而非给每个下游任务单独堆数据。
全部知识事实 (10)
如果视觉转移推理确实是一种可迁移的共享能力,那么多模态世界模型的训练思路需要调整:先建立对视觉状态变化的通用建模,再迁移到具体任务,而非给每个下游任务单独堆数据。
50%待验证WOVEN 是按场景、动作、推理类型三个维度标注视觉转移监督的数据源与基准测试,数据来自视频预训练生成模型的 rollout。
50%待验证WOVEN 的最终规模为 36,076 条样本、20 种场景类型、5 种动作类型、8 种推理类型。
50%待验证使用生成模型 rollout 作为数据来源存在分布偏移风险:生成模型自身的物理先验可能带有偏差或简化,使数据无法完全反映真实世界的复杂动态。
50%待验证在 WOVEN 评测中,即便最强的 MLLM 也远低于人类水平,失败模式在不同模型家族中反复出现,单纯扩大模型规模并不能消除这些缺陷。
50%待验证每个约 2000 条样本的 WOVEN 训练子集,合计提升 26 个外部基准中的 22 个,最高提升 27.3 个百分点。
50%待验证WOVEN 数据可以替代某个任务自身 30%–50% 的训练数据,且精度相当。
50%待验证WOVEN 论文给出的训练配方建议:按监督所教的推理操作来选数据,而不是按动作、场景或领域来选;并优先选择视觉状态变化更大的样本以获得更好的鲁棒性。
50%待验证WOVEN 的论点实质上是把 MLLM 的部分缺陷归因于世界模型能力的缺失——即模型虽能描述图像内容,却不能模拟其随动作演化。
50%待验证论文提出多模态大模型在空间、具身、物理、时间推理上的缺陷可能都源于同一种能力缺失——视觉转移推理(visual transition reasoning)。
50%