采样、混合还是验证？不完美验证器下的推理算力最优分配

推理时扩展算力已成为提升语言模型和智能体准确率的常用手段：生成大量候选答案，再让验证器挑选最优解。然而，真实场景中的验证器——单元测试、多数投票、LLM 评审、奖励模型——并不完美，它们会接受错误答案、拒绝正确答案，甚至犯下相关性错误。在固定预算下，开发者必须决定采样多少候选、从哪些模型采样、以及花多少算力在验证上。目前这些决策大多依赖经验法则。一篇新论文提出的 SPLIT 方法，试图用少量标注试点数据，系统性地回答这些问题。

论文来源截图

不完美验证器下的算力分配困境

让语言模型更准确的常见做法是增加推理时的算力：生成许多候选解，然后提交验证器偏好的那个。成功需要两个条件同时满足：某个候选是正确的，且验证器选中了它。第一个条件随采样数量可预测地增长，第二个则不然。真实验证器会接受错误答案、拒绝正确答案，并且错误之间往往存在相关性。

在固定预算下，开发者面临三个决策：采样多少候选、从哪些模型采样、以及验证上花多少算力。当前这些选择通常由经验法则决定，缺乏理论指导。SPLIT 的核心贡献在于，将这些决策转化为一个可优化的问题。

SPLIT 的核心机制：从试点数据到精确公式

SPLIT 依赖一个精确公式，计算在接受/拒绝和最高分选择策略下提交正确答案的概率。该公式考虑了任务难度的变化、模型间共享的盲点、以及验证器重复调用之间的相关性。SPLIT 通过经验贝叶斯拟合该公式，并利用它在未见任务上规划预算。

这种方法的关键优势在于，它不需要对每个新任务进行大规模试错，而是从少量标注试点中学习验证器的行为模式，然后泛化到新任务。

经验贝叶斯是一种统计估计方法：它不假设先验分布完全未知，也不假设先验完全已知，而是从数据中估计先验的超参数。在 SPLIT 的语境下，这意味着研究者不需要预先假定验证器的准确率或错误相关性结构，而是用少量标注的试点任务（模型生成的候选答案及验证器判定结果）来拟合这些参数的分布，再将拟合好的先验应用到新任务上做预算规划。相比对每个新任务重新做大规模试错，经验贝叶斯能在数据有限时显著降低估计方差，是 SPLIT 能把“少量标注”转化为“可泛化规划”的关键统计基础。

事后最优分配（hindsight-optimal allocation） 指在已知全部结果之后，回过头来选择的那个理论最优预算配置。它相当于一个“上帝视角”的基线：如果开发者事先就知道哪个配置最好，本可以达到的准确率上限。由于真实场景中无法预知结果，任何规划方法都只能逼近这一上界，二者之间的差距就是“遗憾值”（regret）。SPLIT 报告的 0.02 到 0.8 个百分点差距，正是相对这一不可实现基线而言的，因此这一指标衡量的是规划方法离理论极限有多近，而非绝对准确率的高低。

实验验证：七项基准、26 个模型的大规模评估

研究团队在七个基准上评估了 SPLIT，涵盖数学、科学问答、代码和软件工程智能体。实验涉及 26 个模型、175 个智能体系统和六种真实验证器，全部来自公开发布。

结果显示，SPLIT 的分配方案与事后最优分配的差距仅为 0.02 到 0.8 个百分点。相比之下，所有测试的固定规则在某些设置下至少损失 2.5 个百分点。这一差距在多个领域和模型规模上保持一致，表明 SPLIT 的规划能力具有鲁棒性。

论文还指出，遗憾值仅取决于 SPLIT 对配置的排序质量，并且在计算、价格和延迟成本下，以及在线场景中，SPLIT 都保持接近最优。

公式的额外发现：何时更多 LLM 评审反而降低精度

SPLIT 的公式还解释了一个反直觉现象：在某些条件下，增加更多 LLM 评审反而会降低精度。这是因为验证器的错误具有相关性，多次调用同一验证器或相似验证器，并不能独立地消除错误，反而可能放大系统性偏差。

这一发现对实践者有直接启示：盲目增加验证器数量并非总是有效，需要根据验证器的错误结构来规划。

验证器错误的相关性是理解这一反直觉现象的核心。如果多次评审的错误彼此独立，那么增加评审数量会像多次独立投票一样，按大数定律稀释随机错误、提升整体判断的可靠性。但现实中，同一 LLM 评审在不同调用间往往共享相同的训练偏差、提示词理解方式和知识盲区，相似模型之间也存在共同的系统性弱点。这种相关性意味着新增评审带来的“独立信息”远少于名义数量，甚至可能反复强化同一类错误，使多数投票或加权聚合被系统性偏差主导。SPLIT 的公式正是把这种相关结构显式建模，从而能判断在什么条件下追加评审是净收益、什么条件下是净损失。

作为预测器：超越幂律拟合的边界

当验证器限制成功上限时，SPLIT 作为预测器优于幂律拟合。研究团队也报告了 SPLIT 失效的场景，为后续研究指明了方向。

总体而言，SPLIT 将推理算力分配从经验法则推向数据驱动的规划，为构建更可靠的 AI 系统提供了新工具。

幂律拟合（power-law scaling）是推理时扩展研究中常用的经验外推工具：它假设准确率随采样数量或算力的增加，按幂函数形式平滑上升，并用少量数据点拟合曲线来预测更大预算下的表现。这种方法在“采样更多总能找到正确答案”的场景下表现良好，但它隐含假设成功概率会持续趋近于 1。当验证器本身存在接受错误答案、拒绝正确答案的固有缺陷时，成功概率会被验证器质量封顶，幂律曲线会高估实际收益。SPLIT 通过显式建模验证器行为，在存在这种成功上限时能给出更贴近现实的预测，这也是它在预测任务上优于幂律拟合的原因。