VLM空间推理能力实测：7×7网格谜题谁更强？

视觉语言模型（VLM）在多模态理解和图像描述上表现出色，但真正逐步执行视觉空间验证的能力如何？一位开发者构建了名为 VCIS-Bench（Visual Constraint & Instruction Simulation） 的合成基准测试，用一套 7×7 网格谜题，把当前几款主流 VLM 拉到同一张考卷前，考察它们的空间推理硬实力。

VLM空间网格谜题基准测试

测试设计：一道严格的网格谜题

VCIS-Bench 的核心是一张布局严格的 7×7 网格。每道谜题包含固定元素：智能体（A）、钥匙（K）、上锁的门（D）、目标点（G）以及墙壁（#）。规则本身并不复杂，却对模型的状态追踪提出了明确要求——智能体只能沿基本方位（上下左右）移动，不能穿墙，而且必须先在中央隔断左侧拿到钥匙，才能解锁门并抵达右侧的目标。

这种设计的巧妙之处在于，它把一个抽象的"是否会推理"问题，拆解成了可以量化的具体任务。模型不仅要"看懂"网格，还要在脑中模拟一连串动作的因果链条——这正是许多多模态模型的薄弱环节。

测试围绕三项核心任务展开：

任务一｜整体方案验证：给定一串动作序列，判断该方案是 VALID 还是 INVALID。
任务二｜空间定位验证：根据带标签的行（R1–R7）和列（C1–C7）表头，核验物体坐标，考察模型的空间感知能力。
任务三｜步骤级错误诊断：找出动作计划中第一次违反规则的确切步骤序号（基于 1 的索引），例如撞墙或无钥匙穿门。

三项任务由易到难，恰好对应了从"二元判断"到"精确定位错误"的能力梯度。

从认知科学角度看，这类网格谜题考察的核心能力被称为心理模拟（mental simulation）——即在不实际执行动作的情况下，在"脑中"推演状态转移的序列。对人类而言，这依赖工作记忆和空间表征；对语言模型而言，则要求模型在 token 生成过程中维护一个隐式的"世界状态"，并在每一步更新坐标、碰撞检测和条件（是否持有钥匙）。研究者将这种能力与纯粹的视觉感知（grounding）区分开来：感知是"识别图中有什么、在哪里"，而模拟是"如果执行这个动作，下一个状态是什么"。现有 VLM 架构大多针对前者优化，后者在训练数据和目标函数层面均缺乏足够监督，这正是基准测试结果出现明显层级分化的根本原因。

参赛模型：跨越三个层级的对决

测试选取了三款定位截然不同的模型，覆盖从顶级闭源到开源权重的不同性能档位，以同时衡量准确率、延迟和成本效率：

Claude Sonnet 5.5（Anthropic）：作为当前视觉推理的标杆参照。
Gemini 3.7 Flash（Google）：谷歌主打快速响应的轻量多模态模型。
Gemma 4 26B A4B（Google）：开源权重的视觉-语言架构代表。

这样的组合能清晰勾勒出顶级闭源前沿模型、轻量 API 端点以及开源模型之间的性能差距，而不仅仅是一张单纯的排行榜。

结果：谁扛住了逐步模拟的压力？

从整体成绩看，模型之间的分化相当明显。

任务	Claude Sonnet 5.5	Gemini 3.7 Flash	Gemma 4 26B A4B
任务一：整体方案验证	100.0%	100.0%	83.3%
任务二：空间定位验证	100.0%	100.0%	96.7%
任务三：步骤级错误诊断	100.0%	92.0%	76.0%
总分	1.00	0.97	0.85

（数据评测于 2026 年 10 月 11 日）

步骤级模拟是最大的瓶颈

最有看点的结论是：真正拉开差距的不是"看"，而是"算"。 Claude Sonnet 5.5 在全部三项任务中都拿下 100% 的满分表现。但其他模型一旦进入需要精确追踪状态的任务三，就开始露出破绽。Gemini 3.7 Flash 在二元验证的任务一、任务二都是满分，可一旦要求它精确指出失败发生在第几步，准确率就跌到了 92.0%。

这说明判断"对或错"相对容易，但要在多步状态转移中追踪并定位"错在哪一步"，对模型的内部状态管理能力是另一个数量级的考验。

从技术层面解释这一现象：二元验证任务（任务一、二）允许模型采用启发式捷径——例如检查动作序列的总体合理性，或直接对齐视觉标记与坐标标签，无需严格逐步执行。而任务三要求输出具体的失败步骤索引，意味着模型必须从第一步开始，依次更新智能体位置、检测碰撞、判断钥匙状态，且任何一步的状态错误都会向后累积，导致最终索引偏移。这种**错误累积效应（error accumulation）**在长动作序列下会被放大——即便单步准确率只低几个百分点，多步串联后的整体定位精度就可能大幅下降。这与程序执行中"off-by-one error"的难以排查如出一辙，恰好解释了为何空间感知得分高的模型在步骤诊断上仍会失手。

空间定位 vs. 开源执行

Gemma 4 26B A4B 的表现提供了一个有趣的切面。它在任务二的空间坐标核验上拿到了 96.7% 的高分，证明开源权重模型在视觉定位（grounding）上已经相当成熟。然而到了任务三的步骤级执行，它的成绩滑落至 76.0%，原因正是多步状态转移中的追踪误差累积。换句话说，开源模型"知道物体在哪"，但在"模拟一连串动作后的结果"上仍有明显短板。

成本效率的甜蜜点

如果把视角从纯准确率切换到成本效率，结论会更有现实意义。从作者绘制的"分数 vs. 总成本"帕累托图来看，Gemini 3.7 Flash 提供了一个颇具吸引力的权衡——它以 0.97 的近乎满分成绩，仅用了 Claude Sonnet 5.5 大约一半的总成本和执行延迟。对于预算敏感、又需要较强空间推理能力的应用场景，这个"性价比甜蜜点"值得关注。

帕累托最优（Pareto optimality）是工程选型中的常用分析框架：在多目标优化问题中，若某个方案在不降低其他指标的前提下无法进一步改善某一指标，则称其为帕累托最优解，所有此类解构成"帕累托前沿"。在"精度 vs. 成本"二维空间中，Gemini 3.7 Flash 落在前沿附近——它并非精度最高，也非成本最低，但在同等成本下精度最高、或同等精度下成本最低，使其成为对成本敏感场景的理性选择。这种分析方式比单纯的排行榜更具实践参考价值，因为真实部署中极少存在"成本无限制、只追求最高精度"的场景，大多数工程决策本质上都是多目标权衡。

对实际应用的启示

这套基准虽小，却点出了 VLM 落地时容易被忽视的一面：许多模型在"识别"和"描述"层面已经足够好，但在需要连续、确定性状态追踪的任务上仍不可靠。对于机器人导航、游戏 AI、流程自动化这类依赖精确多步推理的场景，仅凭模型的空间感知得分来选型是不够的——步骤级诊断能力才是真正的试金石。

作者已将任务代码与可交互的排行榜运行结果公开在 Kaggle Benchmarks 平台（VCIS Benchmark），感兴趣的开发者可以自行复现或扩展这套测试框架。对想要评估自家模型空间推理能力的团队来说，这是一个轻量但有针对性的参考起点。