固定点分数匹配
一种统一扩散采样器训练框架,通过将去噪分数恒等式替换为目标分数恒等式,使期望从目标分布转移到当前模型分布下计算,形成迭代训练循环。理论最优速度场和分数场是该迭代的固定点
时间轴 (近 90 天)
固定点分数匹配是Dennis Blessing提出的统一框架,将边缘射击、薛定谔桥、流匹配和桥匹配采样等扩散采样算法统一为同一底层原理。
固定点分数匹配的核心创新是将随机插值中的去噪分数恒等式替换为目标分数恒等式,用当前模型生成的样本代替真实目标样本,将期望从目标分布转移到模型分布下计算。
固定点分数匹配的迭代循环为:从当前模型生成终端样本存入回放缓冲区,计算这些样本处的能量梯度,然后用标准分数匹配和流匹配损失进行监督学习,更新模型后重复。
固定点分数匹配框架可推导出目标流匹配损失,其最小值与标准流匹配损失相同,但仅依赖能量梯度而非目标样本,从而可直接训练确定性ODE策略,无需SDE转换或伴随ODE反向模拟。
在DeepMind Control和Humanoid任务上,配合相关探索的固定点分数匹配方法取得了所有对比方法中的最佳表现。
固定点分数匹配框架存在局限:分数本质上是局部量,当目标分布的模式间距很大时,方法难以正确权衡各模式的相对权重。
固定点迭代的唯一性和收敛性尚未得到证明。
全部知识事实 (7)
固定点分数匹配是Dennis Blessing提出的统一框架,将边缘射击、薛定谔桥、流匹配和桥匹配采样等扩散采样算法统一为同一底层原理。
50%待验证固定点分数匹配的核心创新是将随机插值中的去噪分数恒等式替换为目标分数恒等式,用当前模型生成的样本代替真实目标样本,将期望从目标分布转移到模型分布下计算。
50%待验证固定点分数匹配的迭代循环为:从当前模型生成终端样本存入回放缓冲区,计算这些样本处的能量梯度,然后用标准分数匹配和流匹配损失进行监督学习,更新模型后重复。
50%待验证固定点分数匹配框架可推导出目标流匹配损失,其最小值与标准流匹配损失相同,但仅依赖能量梯度而非目标样本,从而可直接训练确定性ODE策略,无需SDE转换或伴随ODE反向模拟。
50%待验证在DeepMind Control和Humanoid任务上,配合相关探索的固定点分数匹配方法取得了所有对比方法中的最佳表现。
50%待验证固定点分数匹配框架存在局限:分数本质上是局部量,当目标分布的模式间距很大时,方法难以正确权衡各模式的相对权重。
50%待验证固定点迭代的唯一性和收敛性尚未得到证明。
50%