ENCORE
一种用于扩散模型推理时控制的方法,通过副本交换与轨迹存储技术实现首个精确的并行控制方案,无需重训练即可将预训练生成模型引导至目标分布
时间轴 (近 90 天)
ENCORE 是一种针对扩散模型推理时控制问题提出的方法,论文名为《ENCORE: Exact Non-equilibrium COntrol with Replica Exchange for Diffusion Generation》,发布于 arXiv
ENCORE 关注倾斜目标分布(tilted targets),形式为 π₀∝G₀·p₀,其中 p₀ 是采样器输出分布,G₀ 是可直接计算的重加权函数
ENCORE 宣称是首个精确的并行控制方法
ENCORE 的关键设计是每个副本存储自己的生成轨迹,使向上移动变成简单的轨迹截断,从而无需真正仿真时间反演过程
论文从理论层面证明了 ENCORE 的目标不变性(target invariance),即方法收敛到正确目标分布且无偏差
论文的扩散分析指出,在一定正则性条件下,顺序控制与并行控制在没有引导(guidance)的情况下,随时间离散化细化都会变得不稳定
ENCORE 在合成目标分布、生物分子的玻尔兹曼采样和图像生成等多类任务上进行了验证
实验显示 ENCORE 在精度与多样性上达到具有竞争力的水平,并对采样器扰动保持稳健
ENCORE 能适用于蒸馏采样器(distilled samplers),而现有的 RE 修正方法在这类场景下无法使用
全部知识事实 (9)
ENCORE 能适用于蒸馏采样器(distilled samplers),而现有的 RE 修正方法在这类场景下无法使用
50%待验证ENCORE 关注倾斜目标分布(tilted targets),形式为 π₀∝G₀·p₀,其中 p₀ 是采样器输出分布,G₀ 是可直接计算的重加权函数
50%待验证ENCORE 宣称是首个精确的并行控制方法
50%待验证ENCORE 的关键设计是每个副本存储自己的生成轨迹,使向上移动变成简单的轨迹截断,从而无需真正仿真时间反演过程
50%待验证论文从理论层面证明了 ENCORE 的目标不变性(target invariance),即方法收敛到正确目标分布且无偏差
50%待验证论文的扩散分析指出,在一定正则性条件下,顺序控制与并行控制在没有引导(guidance)的情况下,随时间离散化细化都会变得不稳定
50%待验证ENCORE 在合成目标分布、生物分子的玻尔兹曼采样和图像生成等多类任务上进行了验证
50%待验证实验显示 ENCORE 在精度与多样性上达到具有竞争力的水平,并对采样器扰动保持稳健
50%待验证ENCORE 是一种针对扩散模型推理时控制问题提出的方法,论文名为《ENCORE: Exact Non-equilibrium COntrol with Replica Exchange for Diffusion Generation》,发布于 arXiv
50%