[控场AI]
· 5 分钟阅读· 2,556 字

自蒸馏空间推理:精度提升且延迟几乎不增

自蒸馏空间推理:精度提升且延迟几乎不增

SpatialOPSD 用自蒸馏把深度特权信息内化进 RGB 单次前向推理,保留教师 91% 性能。

SpatialOPSD 针对多模态模型空间推理的两难提出新解法:工具增强方案精度高但需反复调用外部工具,部署延迟大;纯端到端模型虽快,却在几何与视角变换任务上失分。该方法在策略内自蒸馏阶段,把带验证的智能体轨迹作为特权深度输入喂给模型,训练后仅凭单次、无工具的 RGB 前向传播即可推理。在 Qwen3.5-9B 上准确率从 45.9 升至 51.9,异我中心变换任务增益显著(Among 任务 +11.7),与教师模型 SpatialClaw 的 57.3 相比保留约 91% 性能,却几乎消除了运行时外部调用开销。其平均准确率在空间与 OOD 数据集上均高于 SFT 和 GRPO,显示蒸馏所得推理具备泛化性。遗留问题包括特权信息泄漏与 9% 的残差差距。

多模态模型的空间推理能力一直是落地瓶颈:精度高的方案往往依赖外部工具反复调用,部署成本高;而纯端到端模型速度快,却常常在几何关系、视角变换等任务上失分。SpatialOPSD 通过自蒸馏把"特权深度信息"内化到 RGB 单次前向推理中,在 Qwen3.5‑9B 上把准确率从 45.9 提升到 51.9,同时保留教师模型 91% 的性能。

rss source: Self‑distilled spatial reasoning improves accuracy without large latency penalty

旧路线的两难:工具增强慢,微调内化难

空间编码智能体此前的做法,是让多模态模型调用外部工具生成带验证的执行轨迹,借由工具链的几何计算补足模型自身的空间短板。问题在于每条轨迹都要多次 API 调用,部署延迟被显著拉高,难以满足实时场景。

另一条路是监督微调(SFT)或强化学习(如 GRPO)。这些方法试图把几何能力直接压进模型权重,但训练过程中模型从未接触过"特权深度信息",缺少可供内化的几何监督信号,因此难以真正学会空间变换。

SpatialOPSD 的切入点是:既然教师模型在推理时能访问深度线索,为什么不把这些已验证的智能体轨迹作为特权输入,在策略内自蒸馏阶段喂给模型?这样模型学到的不只是答案,而是一条可复现的空间思维链。

特权信息(Privileged Information) 是这一路线的关键概念。它指训练阶段可获取、但推理阶段无法访问的额外输入。经典的特权信息学习框架(如 Learning Using Privileged Information, LUPI)让教师模型在训练时利用这些额外线索,引导学生模型仅凭常规输入逼近教师的决策。SpatialOPSD 中的"特权深度信息"正是这一范式:深度图或由深度线索生成的智能体轨迹只在训练时可见,部署时的 RGB 模型并不需要深度传感器。这一设计的价值在于,学生模型见过教师如何利用几何线索后,能把"看深度"转化为"从 RGB 推断深度"的隐式能力,从而在推理阶段保持单次前向的低开销。

一个前向传播,找回 91% 的教师性能

SpatialOPSD 的核心机制是:在策略内自蒸馏时,将摘要化的智能体轨迹作为特权输入,让模型学会一条不依赖任何外部深度传感器的空间推理链条。训练完成后,模型在单次、无工具的 RGB 前向传播中即可完成推理。

效果上,Qwen3.5‑9B 基线从 45.9 提升至 51.9,其中在异我中心变换(allocentric transformation)任务上增益尤为明显,例如 Among 任务提升 11.7 分。与依赖迭代工具调用的教师模型 SpatialClaw 相比,SpatialOPSD 以 51.9 对 57.3 的得分保留了约 91% 的性能,却几乎消除了运行时外部调用带来的全部开销。

这意味着部署侧的变化是直接的:原本需要多轮工具调用的空间推理流水线,可以替换为单次前向的蒸馏模型。作者建议开发者在 VSI‑Bench 上重新测算延迟预算,预期可实现超过 90% 的执行时间缩减,而成功率仅比原教师低几个百分点。

策略内自蒸馏(On-Policy Self-Distillation) 与传统的离线蒸馏有所区别。离线蒸馏通常在固定数据集上让学生的输出分布匹配教师,学生生成的状态分布可能与教师训练时见到的分布偏离。策略内蒸馏则在学生自己采样出的轨迹上计算蒸馏损失,即"以学生当前策略产生的状态"为条件,让教师给出更优的目标分布。这样学生学到的空间思维链更贴合自身推理路径,减少了分布偏移带来的误差累积。异我中心(allocentric)与自我中心(egocentric)变换的区分也值得注意:前者以环境或他人视角为参照,后者以观察者自身为参照,两者之间的转换是空间推理中最容易出现视角混乱的环节,因此在该类任务上的增益往往最能反映模型是否真正建立了三维表征。

超越 SFT 与 GRPO:优势不局限于单一任务

在多个基准上的实验显示,SpatialOPSD 的平均准确率高于 SFT 和 GRPO,且这一优势同时出现在空间任务和分布外(OOD)数据集上。跨任务的稳定增益说明,蒸馏得到的空间推理不是针对某个基准的取巧技巧,而是一种可泛化的能力。

这一点值得关注:GRPO 等强化学习方法虽然也能优化推理表现,但在缺乏特权几何信息的情况下,模型难以建立真正的空间表征。自蒸馏路线通过让模型"看到"教师如何利用深度线索,把几何约束转化为可学习的思维链,从而在泛化性上占优。

GRPO(Group Relative Policy Optimization) 是一种无需价值网络的强化学习方法,通过对同一提示采样一组回答、以组内相对优势作为奖励信号来更新策略。它在数学与推理任务中表现良好,但在空间任务上的短板在于奖励信号本身不携带几何信息——如果模型答对了但理由错误,梯度仍可能强化错误表征。VSI-Bench 则是面向视频空间智能的基准,覆盖物体计数、相对方位、路径规划与视角变换等任务,用于检验模型是否具备可迁移的空间理解而非单一模板匹配。这两处的背景解释了为何"优势不只出现在单一任务"这一结论比单点提分更具说服力。

遗留问题:特权信息泄漏与 9% 的差距

作者也坦承,特权信息泄漏仍是待解难题。目前的缓解手段是重复感知蒸馏(Repetition‑Aware Distillation)中的掩码与无似然正则化,但这只是控制而非根除。

与教师模型之间仍有 9% 的残差差距。一个推测是,更大的模型可能缩小这一差距,但目前尚缺实证。另一个方向是更严格地控制泄漏,或进一步扩展蒸馏规模。

对于工程团队而言,短期内更务实的判断是:如果这些数字在真实场景中成立,用蒸馏后的 RGB 模型替代迭代式工具依赖的空间流水线,是值得尝试的降本路径——前提是接受成功率上几个百分点的让步,并在自己的基准上重新验证延迟收益。

#自蒸馏#空间推理#SpatialOPSD#多模态模型#特权信息蒸馏#推理延迟#GRPO
分享:

相关推荐