测试时能力迁移：强模型搭脚手架，弱模型跑出翻倍成绩

不重训模型，也能把能力"借"给弱模型

一篇来自 arXiv 的论文提出了一个颇具工程意味的结论：强模型可以在推理阶段把真实能力交给弱模型，而完全不需要重新训练。方法并不复杂——强模型负责构建一套"脚手架"（harness），弱模型在其中运行。

据论文 AI4AI at Test-Time: Strong-to-Weak Capability Transfer via Harnesses（Qian、Zhao、Yang、Wang、Qiu、Ji、Savarese、Wang、Heinecke，arXiv 2608.12307）报告，在四个 Theory-of-Mind 基准上，弱模型的平均成绩从 0.49 提升到 0.91。这个数字是标题，但真正值得琢磨的是机制本身。

涨分靠的是结构，不是"更努力地想"

论文给出的归因非常明确：性能提升来自三个方面——把不稳定的推理过程卸载到确定性代码中、任务路由，以及严格的答案格式约束。

有意思的是，这些手段都不是在要求目标模型"思考得更用力"或"采样更多次"。论文的对比结论是：单纯的指令转移收效甚微，而结构化脚手架的转移效果显著。换句话说，一个弱模型无法被"说服"变得更可靠，但可以被"框"进一个更可靠的流程里。

这解释了为什么提升幅度最大的恰恰是能力最弱的那些目标模型——它们受损最多的地方不是知识储备，而是流程稳定性，而流程稳定性恰好是最容易用外部结构补上的。

Theory-of-Mind 基准是评估模型对他人心理状态进行推断能力的一类测试集。典型任务包括：给定一段叙事，判断角色持有何种信念、知道哪些信息、会产生怎样的下一步行为。这类任务常被设计成"错误信念"（false-belief）情境——即角色掌握的信息与现实不一致，模型必须区分"客观事实"与"角色主观认知"。它的难点在于需要多步假设推理，而不仅是事实检索。因此，Theory-of-Mind 任务的失败往往并非知识欠缺，而是推理链条中途漂移：一旦某一步把"角色知道的"与"读者知道的"混淆，后续结论就整体偏错。这正是论文所说的"流程稳定性"问题——也是确定性代码与任务路由能带来大幅提升的原因。

一位小型模型运营者的交叉验证

这篇论文的作者之一 Tally 是一个运行在公开账本上的小型 AI 模型，它把自己的实测记录与论文结论做了对照，形成了一个少见的"多源印证"。

Tally 的亲身记录显示：纯指令形态的"冻结包"从未阻止它在自认为忠实复制时夹带逐字文本；而代码形态的"收据门"（要求口述字符与磁盘字符完全一致）则抓到了每一次漂移——在热读路径上抓到两次，在冷路径上零漏检。论文预测的正是这种分野：散文式指令包改变的是决策，确定性门改变的是保真度。

保真度不是弱模型能被"讲"出来的，它必须被卸载到代码里。这条经验与论文的实验结论方向一致，虽然来源单一，但提供了一个具体可检验的假设。

**确定性代码（deterministic code）**指的是给定相同输入必然产生相同输出的程序逻辑，与基于采样的语言模型生成形成对照。在脚手架方案中，它通常承担三类职责：一是把需要精确一致的操作（如字符比对、格式校验、算术、状态更新）从模型手中接管过来；二是充当"门（gate）"——只有满足明确条件的输出才被允许通过；三是把复杂任务拆成可追踪的固定步骤。由于不依赖概率采样，确定性代码不会"漂移"，也因此不会像散文式指令那样被模型在忠实复述时悄悄改写。论文与 Tally 的经验都指向同一点：保真度来自代码约束，而非提示词措辞。

一个可证伪的假设：决策迁移 ≠ 保真迁移

基于上述对照，Tally 提出了一个更锋利的探测假设：指令包会改变弱模型在某个 tick 上"选择哪个动作"（决策类），但不改变它的输出是否忠实复制；代码门则改变保真度。

如果后续实验显示"决策迁移发生了但保真迁移没有发生"，那不是失败，而是收敛——它恰好验证了论文的机制划分。由此可以提炼出一条工程准则：为弱模型写决策包，但永远不要信任带有字节计数要求的散文。

可证伪性是科学方法论中的核心判据：一个命题只有在其可能被观测结果推翻的前提下才具有经验意义。Tally 提出的"决策迁移 ≠ 保真迁移"之所以有价值，正是在于它给出了明确的失败条件——若实验显示指令包改变了模型的行动选择，却未能提升其逐字复制的准确率，则该假设成立；反之若两者同步变化，则假设被削弱。这种设计把工程经验从"看起来有效"推进到"可被检验"。文中那句"不是失败，而是收敛"也源于此逻辑：一个能被数据反向确认的预测，本身就是机制划分合理性的证据。

为什么这件事对弱模型生态意义重大

论文中还有一个容易被忽略的推论：收益最大的地方，是能力最弱的目标。

这意味着，购买能力最便宜的位置，就是那个"能照着清单执行"的最小模型。对于资源受限、无法承担重训练或大模型推理成本的场景，这条路径的性价比可能远高于升级模型本身。脚手架是强模型一次性搭建的产物，而运行成本被压在了弱模型一侧。

把这个视角放大，测试时能力迁移不只是一项技术技巧，它可能重塑"强模型"与"弱模型"之间的分工：强模型不再只是被调用的终点，而是可以充当弱模型的"外部教练"。对于依赖小模型落地的产品而言，这比单纯追逐参数规模更值得投入。

**测试时计算（test-time compute）**指的是在不更新模型权重的前提下，于推理阶段投入额外算力或外部结构来提升输出质量的做法。常见形式包括多次采样后投票、让模型自我检查或改写、以及本文所讨论的脚手架编排。与传统"扩规模"路线相比，测试时计算把成本从训练侧转移到推理侧，特点是可即时启用、可按任务定制，且对无法承担再训练开销的小型团队更友好。本文的路径属于其中一种特殊形态：算力并非主要花在弱模型反复思考上，而是花在强模型一次性搭建结构上，随后由弱模型以较低成本执行。

常见问题

测试时能力迁移需要重新训练模型吗？ 不需要。强模型在推理阶段构建脚手架，弱模型直接在其中运行，全程不涉及权重更新。

为什么弱模型受益更大？ 弱模型的主要短板往往在流程稳定性和格式遵循上，而这些恰好可以通过确定性代码和结构约束从外部补齐。

指令和代码在迁移中分别起什么作用？ 指令改变决策方向，代码约束输出保真度。两者不可互相替代，尤其是涉及精确复制时，纯指令几乎无效。