[控场AI]
· 5 分钟阅读· 2,515 字

Plan-and-Patch:用扩散语言模型实现智能体规划与局部修复

Plan-and-Patch:用扩散语言模型实现智能体规划与局部修复

Plan-and-Patch用扩散语言模型的掩码填充机制实现智能体计划的局部修复,修复成功率达自回归方案近两倍且延迟降低近半。

arXiv新论文《Plan-and-Patch》针对长程AI智能体在执行中需要动态修订计划的痛点,提出以扩散语言模型(dLLM)为核心的"规划—执行"框架。扩散模型通过并行去掩码机制生成结构化计划,并能在保留计划前后缀的前提下,仅对受影响区域做局部填充修复,而无需推倒重来。实验对比了8B参数量的DreamReasoner-8B(扩散)与Qwen3-8B(自回归):在Natural Plan基准零训练条件下,扩散模型计划修复成功率为53.7%,接近自回归模型27.0%的两倍;经ALFWorld和TextCraft针对性训练后,两者计划生成成功率趋于相当,但扩散模型生成延迟仍低39%–46%。研究表明,评估智能体规划器不应只看一次性生成准确率,动态修复能力与生成效率同样关键。

长程智能体的规划难题

当AI智能体需要在真实环境中完成跨越数十步的复杂任务时,单纯生成一个计划远远不够。执行过程中,环境状态可能变化、工具可能返回意外结果、某个动作也可能直接失败。这意味着一个合格的智能体不仅要会"做计划",更要会"改计划"。

arXiv上的一篇新论文《Plan-and-Patch: Diffusion Language Models for Agentic Planning》正是针对这一痛点提出了解决方案。研究者观察到一个关键现象:当计划需要修订时,往往只影响其中一部分,前后的结构大多可以保留。既然如此,与其推倒重来、承担不必要改动的风险,不如只针对受影响的区域做"打补丁"式的局部重生成。

Plan-and-Patch 论文来源

Plan-and-Patch 框架的核心思路

Plan-and-Patch 是一个"规划—执行"(plan-and-act)框架,其核心是用**扩散语言模型(dLLM)**来生成和修复计划。

与传统自回归模型逐词生成不同,扩散语言模型通过"并行去掩码"(parallel unmasking)的方式一次性生成一个结构化的、类似程序的计划。这种生成方式天然适合结构化输出,也让它具备了一个独特优势:当需要修复计划时,模型可以在保持周围步骤不变的前提下,只填充被选中的特定区域。

这正是扩散模型相比自回归模型的根本差异。自回归生成是严格的从左到右单向过程,一旦中间某步出错,很难在不触动后续内容的情况下做精准修补;而扩散模型基于掩码填充的机制,可以把计划中间的某段"挖空",再根据保留的前缀(prefix)和后缀(suffix)条件化地重新填入,实现真正意义上的"局部修复"。

扩散语言模型(Diffusion Language Model,dLLM)是近年兴起的一类生成模型,其灵感来自图像领域的扩散模型,但作用对象是离散的文本序列。与自回归模型(如GPT系列)从左到右逐词预测不同,dLLM的训练过程是先将文本中的词随机替换为特殊的 [MASK] 标记(即"加噪"过程),再训练模型从被掩盖的序列中恢复原始文本(即"去噪"过程)。推理时,模型从全部被掩码的序列出发,通过多轮迭代逐步"揭开"各位置的真实词元,最终得到完整输出。由于所有位置原则上可以同时并行处理,dLLM在生成固定长度序列时往往比自回归模型更快。此外,这种掩码-填充机制天然支持"填空"操作:只要将序列中某段设为 [MASK] 而保留其余部分,模型便可在不改动前后文的约束下单独重生成该段,这正是 Plan-and-Patch 局部修复能力的技术基础。

实验结果:扩散模型在计划修复上的优势

研究团队将两个 8B 规模的模型做了对比:作为扩散规划器的 DreamReasoner-8B 和作为自回归(AR)规划器的 Qwen3-8B。

无需任务训练时的计划修复能力

在 Natural Plan 基准测试上,且不进行任何针对性训练的情况下,扩散模型展现出显著优势:

  • 扩散模型计划修复成功率:53.7%
  • 自回归模型计划修复成功率:27.0%

扩散模型的修复成功率几乎是自回归模型的两倍。这组数据直接印证了框架设计的初衷——基于掩码填充的局部修复机制,在应对计划变更时远比全局重生成来得稳健。

Natural Plan 是谷歌提出的一个用于评估语言模型规划能力的基准数据集,包含行程安排、会议调度、日历规划等现实场景任务。每道题要求模型输出一个满足多项约束条件的多步计划,并通过程序化方式精确验证计划的正确性,避免人工评测的主观偏差。该基准的特点在于约束条件复杂且相互依赖,即使单步决策正确,全局约束冲突也会导致计划失效,因此对模型的结构化推理能力要求较高。在 Plan-and-Patch 的实验设置中,"无需任务训练"意味着直接使用预训练模型进行零样本或少样本测试,能够更纯粹地体现模型本身的规划与修复机制,而非训练数据带来的领域拟合。

任务训练后的生成速度优势

在经过针对性训练后——使用 ALFWorld 和 TextCraft 这两个智能体基准——情况有了新的变化。此时两类规划器在计划生成的成功率上表现相近,差距被训练拉平。

但扩散模型在延迟上保住了明显优势:相比自回归模型,扩散规划器将计划生成的平均延迟降低了 39%–46%。对于需要反复规划和重规划的长程智能体来说,接近减半的生成延迟意味着更快的决策循环和更高的整体执行效率。

这一研究意味着什么

Plan-and-Patch 的价值在于,它把扩散语言模型的两个特性——并行生成带来的速度优势、掩码填充带来的局部可编辑性——精准地匹配到了智能体规划的真实需求上。

长期以来,自回归模型是语言模型的绝对主流,扩散语言模型更多停留在探索阶段。而这项研究提供了一个具体且有说服力的应用场景:在那些需要"边执行边修正"的长程任务中,扩散模型的结构化、可局部修复特性可能比纯粹的生成质量更重要。

从结果看,扩散模型并没有在计划生成成功率上全面碾压自回归模型——经过训练后两者相当。它真正的差异化优势体现在修复成功率和生成延迟这两个维度。这提示我们,评估智能体规划器时,不应只看一次性生成的准确率,还要看它在动态环境中反复修正的能力和效率。

小结

Plan-and-Patch 为长程智能体提供了一套更快的计划生成与更有效的计划修复框架。核心贡献可以概括为:用扩散语言模型的并行去掩码生成结构化计划,用保留前后缀、填充选中区域的方式实现局部修复。实验数据表明,这套方法在计划修复成功率上接近自回归方案的两倍,并在生成延迟上降低近四到五成。

随着智能体应用从简单问答走向复杂的多步任务执行,如何高效、稳健地处理计划的动态修订将成为关键能力。Plan-and-Patch 给出的答案值得业界持续关注。

#扩散语言模型#智能体规划#Plan-and-Patch#计划修复#dLLM#长程智能体#AI Agent
分享:

相关推荐