ENCORE：首个精确并行推理控制方法，让扩散模型生成更可控

推理时控制：无需重训练的生成模型调优

预训练生成模型往往需要在不改动参数的前提下，被引导到某个特定的目标分布。这类技术被称为推理时控制（inference-time control），核心价值在于避免昂贵的重新训练，直接在采样阶段完成分布的重塑。

arXiv 最新论文《ENCORE: Exact Non-equilibrium COntrol with Replica Exchange for Diffusion Generation》正是针对这一问题提出的新方案。研究者关注的是所谓倾斜目标分布（tilted targets），形式为 $\pi_0\propto G_0,p_0$，其中 $p_0$ 是采样器本身的输出分布，$G_0$ 则是一个可直接计算的重加权函数。换句话说，你有一个现成的扩散模型，又有一个评分函数想要施加偏好，如何在不破坏采样精度的前提下让两者结合——这就是 ENCORE 要解决的核心命题。

现有方法的两难：精确 vs. 并行

当前主流的推理控制路线大致分两类，各有明显短板。

顺序退火（Sequential Monte Carlo）

基于序贯蒙特卡洛（SMC）的顺序退火方法在理论上是精确的，能够无偏地逼近目标分布。但代价是需要维持庞大的粒子群体（particle population）才能保证效果，计算开销随之急剧上升。对于高维问题，这种粒子数量的膨胀往往难以承受。

并行退火（Replica Exchange）

另一条路线是基于副本交换（Replica Exchange, RE）的并行退火。并行化带来了天然的效率优势，但问题在于——现有的 RE 修正方案都是有偏的。原因在于它们需要近似一个难以处理的时间反演（time reversal）过程，而这个近似恰恰引入了偏差。换句话说，在 ENCORE 之前，不存在一种真正精确的并行控制方法。

这就形成了一个明确的空白：要么选精确但昂贵的顺序方法，要么选高效但有偏的并行方法，鱼和熊掌不可兼得。

ENCORE 的核心思路：用轨迹存储绕开时间反演

ENCORE（Exact Non-equilibrium COntrol with Replica Exchange）宣称是首个精确的并行控制方法，其巧妙之处在于回避了那个最棘手的难题。

关键设计是：每个副本都存储自己的生成轨迹。有了完整轨迹后，向上移动（upward move）就变成了一次简单的轨迹截断（truncation），而那个难以模拟的时间反演过程从头到尾都不需要被真正仿真。这是整个方法成立的核心技巧——不是去近似时间反演，而是通过记录轨迹让它变得可用。

论文从理论层面证明了目标不变性（target invariance），即方法确实收敛到正确的目标分布，没有引入偏差。进一步地，作者指出所得到的动力学正是非平衡副本交换的动力学，并且以精确的时间反演作为前向提议（forward proposal）。这为并行控制的精确性提供了严格的数学保证。

扩散分析：引导为何不可或缺

论文还给出了一个颇具实践意义的扩散分析结论。在一定的正则性条件下，无论是顺序控制还是并行控制，当对时间离散化进行细化（refinement）时，在没有引导（guidance）的情况下都会变得不稳定。

而一旦采用引导式提议（guided proposals），动力学就能保持稳定，并且还能产生用于调整调度（schedule）和计算预算的诊断指标。这意味着实践者不仅能让方法稳定运行，还能据此判断如何分配计算资源、如何设置时间步长，这对实际部署非常有价值。

实验验证：从分子采样到图像生成

ENCORE 在多类任务上进行了验证，覆盖面相当广：

• 合成目标分布：作为基准测试方法的正确性与收敛性；
• 生物分子的玻尔兹曼采样（Boltzmann sampling）：这是计算化学与结构生物学中的硬核任务，对采样精度要求极高；
• 图像生成：验证方法在视觉生成领域的实用性。

实验结果显示，ENCORE 在精度与多样性上都达到了具有竞争力的水平，同时表现出两个重要特性：一是对采样器扰动（sampler perturbations）保持稳健；二是能够适用于蒸馏采样器（distilled samplers）——而在这类场景下，现有的 RE 修正方法根本无法使用。这一点尤其值得关注，因为蒸馏模型因其高效性正越来越多地被部署在生产环境中。

意义与展望

ENCORE 的贡献可以概括为填补了一个方法论上的空白：它第一次让并行与精确在扩散生成控制中同时成立。对于需要大规模并行采样、又无法容忍偏差的应用——比如分子构象采样、受约束的图像生成——这项工作提供了理论扎实、实验可靠的新选项。

特别是它对蒸馏采样器的兼容性，暗示了一条通往高效且可控生成的实用路径。随着扩散模型在科学计算和内容生成领域的渗透加深，像 ENCORE 这样兼顾严谨性与效率的推理控制方法，很可能成为后续研究的重要基石。