PILOT框架：用特权推理探索重塑多模态嵌入训练

多模态嵌入模型正在经历一场由生成式推理驱动的升级。传统方法通过给输入附加自生成的推理文本，让嵌入向量携带更丰富的信息，从而提升检索性能。但这条路径上有一个长期被忽视的裂缝：训练时使用的成对相关性监督，只告诉模型“这两个样本相关”，却从不指导“应该用什么样的推理解释这种相关”。推理轨迹既无法直接观测，也不由输入唯一决定，同一个查询可以衍生出多条看似合理的推理路径，而它们对检索的实际价值可能天差地别。

近期一篇来自rss的研究工作（PILOT框架）正是瞄准了这一裂缝。其核心主张颇为犀利：关系监督最有价值的地方，不是作为事后的奖励信号（post-hoc reward），而是作为塑造推理探索过程的训练信号。

现有方法的症结：推理只被输入条件化

现有推理增强嵌入方法的共同假设是：推理轨迹应当仅由输入决定。模型看到查询，生成一段解释，再将其与原始输入一起编码为嵌入。这种“先验式”的推理模式有一个天然局限——它无法知道哪些推理路径真正有助于检索。

问题在于，检索监督本身是成对的关系标签，它不携带任何关于推理质量的直接信息。模型只能靠输入端的模式去“猜”什么样的推理有用，探索空间因此被压缩。原文指出，这种条件化方式“限制了对检索相关推理轨迹的探索”。换句话说，模型在推理空间里走了一条狭窄的路，而更优的路径可能就在旁边，却从未被采样到。

PILOT的解法：把推理视为隐变量

PILOT的切入点是把推理轨迹建模为潜在变量，并为它设计两个分布：先验分布只依赖输入，后验分布则额外利用训练阶段可用的关系证据。两个分布由同一个多模态大模型的不同推理模式来实例化，共享模型参数但条件信息不同。

后验分布因为看到了关系证据，能够探索更宽泛、更有检索价值的推理轨迹；先验分布则必须在推理时仅凭输入工作。这里的关键挑战是：如何把后验的“特权探索”转化为推理时先验的“实际收益”。

研究团队的做法是推导一个重要性加权的变分目标，并将其实例化为先验-后验协同演化框架。两个推理模式在共享的、与推理阶段兼容的奖励下共同改进，后验轨迹按照其效用和先验可达性被选择性地迁移给先验。这意味着并非所有后验探索都会被照单全收——只有那些既对检索有用、又在推理时能够被先验复现的轨迹，才会被吸收。

变分目标与重要性加权

在变分推断中，当真实后验难以直接计算时，常用一个可处理的分布去近似它，并通过最大化证据下界（ELBO）来优化。PILOT 将推理轨迹视为隐变量，先验分布对应推理时仅依赖输入的情形，后验分布则额外利用关系证据。为了把后验的探索收益迁移给先验，需要估计两者之间的差异，重要性加权（importance weighting）正是处理这种分布偏移的经典工具：它用后验与先验的密度比作为权重，对样本进行重加权，使得在训练时以后验为主导的探索能够被折算成先验可用的学习信号。这样，只有那些后验认为高价值、且先验也有一定概率生成的轨迹，才会在目标函数中获得较大权重，从而自然实现了“效用与可达性”的双重筛选。

实验结果：全任务组提升，视觉文档检索收益最大

在78个任务的MMEB-V2基准上，PILOT在2B和7B参数规模下均优于主要基线。据原文数据，全部12个任务组均有提升，总体分数分别提高3.2和3.3分。提升最显著的是视觉文档检索任务，分别上涨6.1和6.4分。

这个结果分布值得玩味。视觉文档检索通常涉及版面结构、文字与图像的交织关系，对推理的细粒度要求较高。后验式的探索在这种场景下更容易发现那些被先验忽略的关联线索，从而带来更大的边际收益。

启示：奖励信号的位置比强度更重要

PILOT的贡献不止于一个性能数字。它提出了一个方法论层面的转向：在推理增强嵌入模型中，关系监督的用法可以从“事后打分”前移到“训练时引导探索”。这一思路与强化学习中的特权信息（privileged information）思想有相通之处——训练时可见、推理时不可见的信息，恰恰是塑造策略的宝贵资源。

当然，这套框架也带来新的工程考量。先验与后验的协同演化增加了训练复杂度，后验轨迹的迁移需要设计效用评估与可达性判断。原文没有详细展开这些机制在不同模态组合下的通用性，后续工作值得关注。

对于构建多模态检索系统的团队而言，PILOT传递的信号很明确：与其在推理生成后加一个奖励头去纠偏，不如让奖励信号参与推理路径的采样与塑造。这可能是推理增强嵌入走向更高上限的关键一步。

特权信息（Privileged Information）

特权信息学习（Learning Using Privileged Information, LUPI）由 Vapnik 等人提出，指训练阶段可以获取、但推理阶段不可用的额外信息。经典例子包括在图像分类训练时使用人工标注的语义描述，推理时却只有原始图像。PILOT 中的关系证据正是这样一种特权信息：训练时成对的相关性标签告诉模型哪些样本相关，但推理时面对单个查询并没有这样的标签。与直接把特权信息当作辅助损失不同，PILOT 用它来构造后验分布，引导推理轨迹的探索方向，再通过变分目标将探索成果蒸馏给仅依赖输入的先验。这为“训练时可见、推理时不可见”的信息如何参与表示学习提供了一个可操作的范式。