COMED：多模型推理中路由与协作之间的"缺失中间态"

单一大模型不可靠，多模型系统如何取舍

没有任何一个大语言模型（LLM）能够在所有查询上保持稳定可靠的表现。这一现实推动了多模型推理系统的发展——要么在多个模型之间进行路由选择，要么将多个模型的输出组合起来。然而，这两种主流思路各有明显短板。

路由（routing）机制在选定初始模型后便停止工作，无法进一步纠正错误；而密集协作（dense collaboration）则在每一次查询时都调用所有对等模型，成本高昂且并非总是有益。arXiv 上的一篇新论文提出了介于两者之间的方案——COMED（Controlled Model Escalation for Multi-LLM Deliberation，多模型审议的受控模型升级），试图填补这一"缺失的中间地带"。

COMED 论文来源截图

协作的非单调性：既能挽救，也能污染

论文的核心洞察在于揭示了多模型协作的"非单调性"（non-monotonic）特征。研究者指出，对等模型的介入是一把双刃剑：

一方面，同伴模型可以挽救那些单个模型无法独立解决的失败案例；
另一方面，它们也可能污染（corrupt）本来已经正确的答案。

这意味着，无脑地让所有模型参与每一次协作并不划算。真正关键的问题是：什么时候该让其他模型介入？如果协作带来的"挽救"（rescue）收益无法抵消它引入的"损害"（harm），那么密集协作反而会拉低整体表现。这一权衡正是路由与密集协作两个极端之间被忽视的空间。

非单调性（non-monotonicity）在这里指的是：增加参与协作的模型数量并不会单调地提升系统整体准确率，而是呈现出复杂的增减关系。这与人们的直觉预期相悖——通常认为"更多模型投票"总比"单个模型作答"更可靠。但实验表明，当一个模型已经给出正确答案时，引入其他持不同意见的模型反而可能通过多数投票或加权融合机制将答案"拉偏"，造成污染效应。这种现象在密集协作系统（如 mixture-of-agents 或多轮辩论框架）中尤为突出：全量参与的设计假设"协作总是有益"，却忽视了对等模型在特定问题上可能系统性地出错，从而将错误传播给原本正确的锚点模型。理解这一非单调性，是 COMED 设计"有条件触发协作"而非"无条件全员参与"的理论出发点。

COMED 的机制：锚点之后的受控升级

COMED 被设计为一个"锚点后控制器"（post-anchor controller），用于实现选择性的跨模型协作。它不是在每次查询时都启动协作，而是通过三个信号来决定处理策略：

三个判断信号

锚点自一致性（anchor self-consistency）：评估初始模型自身回答的稳定性；
路由器间隔（router margin）：衡量路由决策的置信度差距；
轻量级同伴探针（lightweight peer probe）：以低成本方式探测其他模型是否可能提供更好的答案。

基于这些信号，COMED 采取分级处理：对高置信度的答案直接接受，对模棱两可的情况进行验证，只有在协作大概率有益时才升级调用更多模型。这种设计既避免了路由"一锤定音"的僵化，也规避了密集协作的浪费。

自一致性（self-consistency）是大语言模型推理中一种经典的置信度估计方法：对同一问题多次采样生成答案，若多数输出收敛于同一结果，则认为该答案具有较高可信度；若答案分散，则说明模型本身不确定。COMED 的"锚点自一致性"正是借用这一思路来判断初始模型的输出是否足够稳定，从而决定是否需要引入外部模型。路由器间隔则来源于分类路由场景中的"置信度边距"概念：当路由器对"应选哪个模型"的判断接近五五开时，间隔趋近于零，意味着路由决策本身不可靠，此时有必要进一步验证。轻量级同伴探针则是一种低开销的主动探测策略，通过对候选模型进行少量采样而非完整推理，以较小代价预判其潜在贡献，避免为"不值得升级"的查询支付完整的多模型推理费用。

rescue-harm 分解

为了形式化上述权衡，论文提出了"挽救-损害分解"（rescue-harm decomposition）。其结论直观明确：当被挽救的错误数量超过协作引入的损害时，选择性协作就能带来净收益。这一理论框架为"何时该协作"提供了可量化的判断依据。

实验结果：更少模型、更少 token，更高准确率

COMED 在医学、科学和通用推理等多个基准上进行了验证，表现颇具说服力。

在 16 组开源权重（open-weight）设置中，COMED 全部改进了固定锚点和路由锚点的表现。其中在 MedQA 医学问答基准上的提升最高达到 +10.7 个百分点，而且相比密集协作，它调用了更少的模型、解码了更少的 token——即在提升准确率的同时降低了计算成本。

在使用前沿模型的 HLE（Humanity's Last Exam 类高难度基准）测试中，COMED 将 GPT-5.5 的表现从 23.1% 提升到 28.1%，不仅超越了密集协作方案，还取得了最佳结果。这说明该方法在从开源小模型到顶级前沿模型的不同规模上都具有普适性。

MedQA 是基于美国执业医师资格考试（USMLE）题库构建的多选题问答基准，因其需要复杂的临床推理和医学知识整合而成为评估 LLM 专业能力的常用测试集。HLE（Humanity's Last Exam）则是一个近期提出的极高难度基准，题目来自各领域顶尖专家，旨在测试当前最强前沿模型的能力上限，其题目难度远超 MMLU 等常规学术基准，大多数模型得分仍处于较低区间，因此在该基准上的任何显著提升都具有较强说服力。COMED 在这两个差异悬殊的基准上均取得改善，说明其选择性协作机制并非针对某一特定任务类型的过拟合设计，而是具有一定的跨领域泛化能力。

意义与展望

COMED 的价值不仅在于性能数字，更在于它重新定义了多模型推理的设计范式。过去的讨论往往在"选一个最好的模型"和"让所有模型一起干"之间二选一，而 COMED 证明了存在一个更优的中间地带：用轻量级信号做出智能的升级决策。

对于实际部署而言，这种方法尤其有吸引力——它在保证甚至提升答案质量的前提下，显著控制了推理成本。随着大模型调用成本成为企业落地的重要考量，这类"按需协作"的思路可能会成为多 LLM 系统工程实践中的重要方向。

需要说明的是，本文基于单篇 arXiv 预印本的摘要信息整理，具体的实现细节、消融实验和更广泛的泛化能力仍有待阅读完整论文进一步验证。