离散扩散模型的置信度困境：为何并行生成会偏离真实分布

离散扩散模型的核心机制与隐患

离散扩散（Discrete Diffusion）近年来成为文本、语音乃至图像生成的热门技术路线。与自回归模型逐个token生成不同，离散扩散的采样器——包括重掩码（remasking）和均匀态（uniform-state）采样器——会在单步内同时写入多个token位置，每个位置都从各自的边缘分布中独立采样，并据此决定哪些位置应被写入。

这种并行写入的设计带来了显著的推理速度优势，也让离散扩散被视为自回归生成的有力替代方案。然而，这篇名为《Limits of Confidence in Diffusion》的研究指出，这种机制在数学层面存在一个难以回避的根本性限制。

离散扩散模型的工作原理与连续扩散（如图像生成常用的DDPM）类似，但作用对象是离散的token序列。前向过程（forward process）逐步将原始token替换为掩码（mask）或随机token，直到序列完全损坏；反向过程（reverse process）则训练模型从损坏序列中逐步恢复原始内容。**重掩码采样器（remasking sampler）**在每一步根据模型预测，优先"确认"置信度高的位置，再把剩余位置重新掩码；**均匀态采样器（uniform-state sampler）**则允许token在全词表上随机跳转，而非只在mask与真实token之间切换。两类采样器均支持一步写入多个位置，是其推理速度远超自回归模型的关键所在。代表性工作包括 Masked Diffusion Language Model（MDLMs）和 MDLM 的后续改进，以及用于代码、蛋白质序列等结构化数据的生成任务。

条件独立：匹配训练分布的隐含前提

研究的核心论点在于：离散扩散的单步生成只有在它所写入的位置在已固定token条件下相互独立时，才能真正匹配训练数据分布。

换句话说，当采样器在一步内同时写入若干个位置时，它实际上是在用「各位置边缘分布的乘积」去逼近这些位置的真实联合分布。只有当这些位置之间不存在条件依赖关系时，乘积形式才等价于联合分布。

问题在于，对于我们真正关心的领域——像素、音素或词语——token之间天然存在强烈的依赖关系。图像中相邻像素高度相关，语言中词与词之间受语法和语义约束，语音中的音素也彼此牵连。这意味着「条件独立」这个前提在绝大多数实际场景中并不成立。

乘积分布无法表达依赖结构

论文进一步证明：任何由各位置分布构成的乘积形式，都无法匹配一个存在依赖关系的token组合的真实分布。这是一个结构性的限制，而非可以通过更多训练数据或更大模型简单克服的工程问题。

当采样器一次写入多个相互依赖的位置时，它生成的联合分布必然是这些依赖关系被「强行解耦」后的近似。生成的结果看起来可能局部合理，但在全局联合分布层面会系统性地偏离训练分布。

从概率论角度，这一问题可以用 KL 散度来量化。设模型一步内写入位置集合 S，真实联合分布为 p(x_S | x_{\bar{S}}），而采样器实际使用的是乘积分布 ∏{i∈S} p(x_i | x{\bar{S}}）。当位置间存在条件依赖时，两者的 KL 散度严格大于零，且依赖越强、写入位置越多，KL 散度越大。这种偏差会随着生成步骤的叠加而累积——每一步引入的"近似误差"在最终样本中以系统性失真的形式体现，比如语言生成中的语法不连贯、图像生成中的结构不一致。更关键的是，该误差与模型容量无关：即便用无限数据训练出完美的边缘分布预测器，只要并行写入存在依赖的多个位置，乘积近似本身就必然偏离联合分布。

置信度（Confidence）的局限性

标题中的「置信度」指向了许多离散扩散采样器的一个关键设计——根据每个位置分布的置信度来决定优先写入哪些位置。直觉上，模型对某个位置越有把握（分布越尖锐），就越应该先确定它。

但研究揭示，这种基于置信度的位置选择策略本身无法绕过条件独立的约束。即便模型对每个位置都高度自信，只要被同时写入的位置之间存在依赖关系，乘积分布就依然无法还原真实的联合结构。置信度高并不等于联合分布正确——这正是「置信度的极限」所在。

对生成模型设计的启示

这项研究的意义不在于否定离散扩散路线，而在于厘清其能力边界。它为理解扩散式并行生成与自回归生成之间的本质权衡提供了理论依据。

• 速度与保真度的权衡：并行写入越多位置，推理越快，但偏离真实分布的风险也越大，尤其当这些位置彼此依赖时。
• 单步写入位置数的重要性：一步只写入一个（或条件独立的）位置时，理论上可以精确匹配分布；写入越多依赖位置，误差越积累。
• 采样策略的设计空间：未来的采样器设计需要更谨慎地识别哪些位置在当前上下文下近似条件独立，从而在速度与正确性之间取得平衡。

对于从事生成模型研究与工程实践的从业者而言，这意味着在追求推理加速的同时，必须正视并行采样引入的分布偏差，不能简单依赖置信度启发式来保证生成质量。

从工程实践角度，一个可行的缓解方向是自适应步长控制：在序列解码的早期阶段（不确定性高、依赖关系强），每步只写入少量位置；随着已固定token增多、剩余位置的条件依赖减弱，再逐渐加大并行写入量。这与谱系更广的"渐进式解码"思路一脉相承。另一方向是引入结构化联合采样，例如通过 Gibbs 采样或 MCMC 校正来近似真实联合分布，但代价是推理复杂度上升。此外，研究者也在探索是否存在某些数据模态（如字节级序列、某些编码空间），其token间的条件依赖天然较弱，从而使并行采样的分布偏差在实践中可以接受。理解这一理论边界，有助于在模型架构选型时做出更合理的取舍。

结语

这篇研究以清晰的数学论证，揭示了离散扩散采样器在并行生成时的根本限制：只有条件独立的位置才能被安全地同步写入，而真实世界的数据几乎总是充满依赖。它提醒我们，生成速度的提升不应以牺牲对真实分布的忠实度为代价。理解这一边界，是设计下一代扩散采样器的前提。