[控场AI]
· 5 分钟阅读· 2,625 字

S³-PnP:自监督分数先验为科学成像即插即用去噪

S³-PnP:自监督分数先验为科学成像即插即用去噪

S³-PnP 从 ADMM 观测中间态自监督学习分数先验,破解科学成像中的双重分布错配。

科学成像中干净标签稀缺,传统监督学习难以适用,而依赖外部预训练扩散先验的 PnP-ADMM 方案又面临双重分布错配:预训练先验与目标科学图像分布不符,且 ADMM 对偶反馈会使去噪器输入分布偏离干净图像分布。S³-PnP 框架提出直接在 ADMM 观测驱动的中间态上学习分数先验,无需干净训练标签或外部预训练权重。学到的分数用于修正解析先验更新的输入,将观测驱动修正与解析正则化结合。作者在理想分数与二次数据保真度假设下分析了修正 ADMM 的收敛性与重建误差,并在参考引导高光谱恢复、单图像高光谱去噪和 MRI 去噪三类任务上报告了一致改进,说明该自监督思路在标注稀缺的科学成像场景中具有实际意义。

S³-PnP 论文来源截图

科学成像长期面临一个尴尬的现实:高光谱成像(HSI)和磁共振成像(MRI)这类模态,干净的训练标签几乎不可能大规模获取。传统监督学习路线在这里寸步难行,而依赖外部预训练扩散先验的即插即用 ADMM(PnP-ADMM)方案,虽然绕开了标签问题,却引入了新的分布错配——学到的先验既可能偏离目标科学图像的分布,也可能与 ADMM 对偶反馈所诱导的去噪器输入分布对不上。

问题出在哪里:双重分布错配

PnP-ADMM 的经典做法是拿一个在大规模自然图像上预训练的扩散模型当去噪先验,套进 ADMM 迭代里做图像恢复。问题有两个层面。

第一层是目标分布错配。自然图像的统计特性和高光谱、MRI 图像差异显著,把自然图像先验硬套到科学成像上,先验本身就不准。

第二层更隐蔽——ADMM 中间态分布错配。ADMM 的对偶变量会反馈回去噪器输入端,使得去噪器实际面对的输入分布并不是干净图像分布,而是被对偶反馈扭曲过的中间状态分布。预训练先验没见过这种输入,去噪效果自然打折扣。

这两个错配叠加,解释了为什么直接搬预训练扩散先验到科学成像 PnP 框架里,性能往往不如预期。

PnP-ADMM 的迭代结构值得展开说明。ADMM(交替方向乘子法)求解形如 $\min_x f(x)+g(x)$ 的问题时,引入辅助变量 $z$ 与对偶变量 $u$,交替执行三步:$x$ 更新(数据保真项)、$z$ 更新(正则项,即去噪步)、$u$ 更新(对偶上升)。在 PnP 框架中,$z$ 更新被替换为一次去噪器调用,即 $z^{k+1}=D_\sigma(x^{k+1}+u^k)$。关键在于 $x^{k+1}+u^k$ 这一项:对偶变量 $u$ 会累积历次迭代的约束违反量并持续反馈到去噪器输入端,使得去噪器看到的并非原始含噪图像,而是被对偶反馈叠加后的中间状态。这正是"中间态分布错配"的机制来源——去噪器实际面对的输入分布,与它在训练时所见的干净图像分布之间存在系统性偏移,且这种偏移随迭代轮次动态演化。

S³-PnP 的思路:从观测中间态学分数

这篇工作提出的 S³-PnP 框架,核心操作是直接在 ADMM 的观测驱动中间态上学一个分数先验,不需要干净训练目标,也不需要外部预训练权重。

具体来说,学到的分数函数用来修正解析先验更新的输入,把观测驱动的修正项和解析正则化结合起来。这意味着先验不是从外部“借”来的,而是从当前观测和 ADMM 迭代过程中自然涌现的中间状态里“长”出来的。由于中间态本身就包含了目标模态的分布信息和对偶反馈的影响,双重错配在源头被缓解。

从方法论角度看,这个设计把自监督学习和经典优化算法的迭代结构耦合得更紧——不是先学先验再塞进优化,而是在优化过程中同步学先验。

**分数先验(score prior)**是理解本文方法的核心概念。分数函数定义为概率密度的对数梯度 $\nabla_x \log p(x)$,它指向数据分布中概率密度上升最快的方向,因此在去噪时可作为"把含噪样本推回高概率区域"的力场。扩散模型正是通过训练网络逼近各噪声水平下的分数函数 $\nabla_x \log p_\sigma(x)$ 来实现生成与去噪。经典去噪器与分数之间存在 Tweedie 等式联系:最优去噪器可写为 $D(x)=\frac{1}{\sigma^2}(x+\sigma^2\nabla_x\log p_\sigma(x))$,这解释了为何学一个分数等价于学一个去噪先验。S³-PnP 的独特之处在于,它不依赖大规模干净图像来训练分数网络,而是直接从 ADMM 迭代产生的观测驱动中间态中估计分数,从而让先验"贴合"实际优化轨迹上的数据分布。

理论保证与实验验证

作者在理想分数和二次数据保真度的假设下,分析了修正后 ADMM 算法的收敛性和重建误差。这为方法的可靠性提供了一定的理论支撑,尽管理想分数假设在实际中只能近似满足。

实验覆盖三个任务:参考引导的高光谱恢复、单图像高光谱去噪、MRI 去噪。据论文报告,S³-PnP 在这些任务上相对竞争方法取得了一致的改进。多任务验证也说明方法不局限于单一模态。

理想分数假设是这类理论分析中的常见简化。它假设在每次迭代中,学到的分数函数与真实数据分布的真实分数完全一致,即 $s_\theta(x)=\nabla_x\log p(x)$ 无误差成立。基于此假设,作者可以推导修正 ADMM 的收敛性条件与重建误差上界。然而在实际中,分数网络由有限数据估计得到,必然存在近似误差,且误差随噪声水平、迭代位置而变化。因此理论保证提供的是"在最优去噪器下算法可行"的定性支撑,而非严格的实际性能界。评估这类方法的实用价值,还需结合实验对分数估计误差的敏感度以及不同 ADMM 惩罚参数下的稳定性表现。

对科学成像去噪的意义

这项工作值得关注的地方在于它正面处理了 PnP 框架中一个常被忽略的问题:去噪器输入分布和对偶反馈的相互作用。以往很多工作只关注先验本身的迁移性,而 S³-PnP 把 ADMM 迭代动力学纳入先验学习过程,思路更贴近实际优化轨迹。

对高光谱和 MRI 这类标注稀缺的领域,无需干净标签、无需外部预训练权重的自监督方案,降低了部署门槛。当然,从论文到实际科学成像流水线还有距离,理想分数假设的松弛程度、计算开销、对不同 ADMM 参数设置的鲁棒性,都是后续需要验证的方向。

高光谱成像(HSI) 在数百个连续窄波段上采集数据,单个数据立方体的体量远超普通 RGB 图像,且相邻波段高度相关。其物理成像过程限制了干净标签的获取——真实场景中不存在"无噪高光谱参考",通常只能依靠合成噪声或物理仿真来构造监督信号,这恰是监督学习路线受限的根本原因。磁共振成像(MRI) 的情况类似:全采样获取干净图像耗时过长,临床中普遍采用欠采样加速,导致训练数据天然带有重建伪影;而 k 空间数据的复数特性与噪声分布也不同于自然图像。这两类模态的共性在于:目标模态的数据分布高度专业且不易大规模采集干净样本,因此无需外部标签的自监督先验学习方法具有直接的部署价值。

#S³-PnP#自监督去噪#即插即用先验#科学成像#高光谱成像去噪#MRI去噪#ADMM#分数先验
分享:

相关推荐