扩散语言模型
借鉴图像扩散模型思路的语言生成架构，从所有位置并行去噪生成文本，按置信度动态分配计算轮次，与自回归模型串行生成范式相对，理论上可降低长序列生成延迟
核心事实
时间轴 (近 90 天)
研究者报告，NCM在特定基准上的生成速度可达扩散语言模型基线的31倍。
NCM与扩散模型的相似之处在于都放弃了严格的从左到右逐token生成，区别在于NCM以显式的多粒度离散码本组织生成过程，层级结构更为明确，而扩散模型则以噪声水平隐式控制生成粒度。
训练时的循环次数分布设计是扩散语言模型效率优化中一个被低估的杠杆。
扩散语言模型的推理能力可以通过推理时的搜索策略增强，而不必依赖额外的后训练。
扩散语言模型在事实准确性和长文逻辑一致性上存在历史短板。
传统扩散语言模型往往需要几十甚至上百个去噪步数，实际推理成本反而高于自回归模型。
社区对扩散语言模型的态度可以概括为‘对特定任务乐观，对通用推理存疑’。
扩散语言模型在训练效率和推理质量之间的权衡还不够理想，很多展示出来的结果依赖于精心设计的实验条件，在开放域任务上的表现仍有差距。
扩散语言模型的多轮去噪过程每一轮可以并行处理所有位置，在硬件利用效率上具有潜在优势。
扩散语言模型（DLM）通过双向注意力与迭代去噪生成整段文本，控制信息可从序列任意位置介入。
还有 17 条时间轴事件
全部知识事实 (20)
扩散语言模型采用并行去噪的思路，可以在一次前向过程中同时优化多个位置的输出，再通过多轮迭代逐步收敛到最终文本
75%已验证扩散模型的去噪过程通常需要执行数十到数百次迭代（称为采样步数），每次迭代都需要完整运行一次神经网络的前向传播
75%已验证扩散语言模型可以同时对整个序列的所有token进行并行预测与迭代优化，而非逐个输出
65%待验证扩散语言模型目前仍处于早期阶段，在生成质量、长文本连贯性、训练稳定性方面与成熟自回归模型相比仍有差距
60%待验证研究者报告，NCM在特定基准上的生成速度可达扩散语言模型基线的31倍。
50%待验证NCM与扩散模型的相似之处在于都放弃了严格的从左到右逐token生成，区别在于NCM以显式的多粒度离散码本组织生成过程，层级结构更为明确，而扩散模型则以噪声水平隐式控制生成粒度。
50%待验证训练时的循环次数分布设计是扩散语言模型效率优化中一个被低估的杠杆。
50%待验证扩散语言模型的推理能力可以通过推理时的搜索策略增强，而不必依赖额外的后训练。
50%待验证扩散语言模型在事实准确性和长文逻辑一致性上存在历史短板。
50%待验证传统扩散语言模型往往需要几十甚至上百个去噪步数，实际推理成本反而高于自回归模型。
50%待验证社区对扩散语言模型的态度可以概括为‘对特定任务乐观，对通用推理存疑’。
50%待验证扩散语言模型在训练效率和推理质量之间的权衡还不够理想，很多展示出来的结果依赖于精心设计的实验条件，在开放域任务上的表现仍有差距。
50%待验证扩散语言模型的多轮去噪过程每一轮可以并行处理所有位置，在硬件利用效率上具有潜在优势。
50%待验证扩散语言模型（DLM）通过双向注意力与迭代去噪生成整段文本，控制信息可从序列任意位置介入。
50%待验证DLM 有效引导取决于控制 token 内容与其放置位置之间的兼容性；不匹配的锚点会干扰生成能力。
50%待验证项目级代码生成要求模型在很长时间跨度内维持一致的架构决策、数据流和模块边界，而大语言模型上下文窗口有限，长时任务中容易发生遗忘或前后不一致。
50%待验证扩散模型的差异化优势体现在修复成功率和生成延迟两个维度，而非一次性生成准确率
50%待验证arXiv论文《Plan-and-Patch: Diffusion Language Models for Agentic Planning》提出使用扩散语言模型实现智能体规划与局部修复
50%待验证扩散语言模型通过并行去掩码（parallel unmasking）方式一次性生成结构化的类似程序的计划
50%待验证扩散模型基于掩码填充机制，可保留前缀和后缀，条件化地重新填入被挖空的中间段落，实现局部修复
50%