Reviser：让文本生成模型学会像人一样修改草稿

从"一次成型"到"可修改"的文本生成

当下主流的大语言模型采用自回归方式逐个吐出token，本质上是从左到右一次性完成写作，无法回头修改前面已经生成的内容。这与人类真实的写作过程差异明显——我们往往先写下初稿，再插入补充、调整措辞、删改冗余。让模型具备"修改能力"（revision-capable generation）一直是研究者关注的方向，因为它能在早期内容中插入或修订片段，带来更灵活的生成方式。

然而，此前实现这种灵活性的方案大多来自非自回归模型或基于编辑的方法，它们通常需要在整个序列层面反复计算，推理成本高昂。arXiv上的一篇新论文《Reviser: Revision-Capable Text Generation via Autoregressive Cursor Actions》提出了一种更轻量的思路。

自回归语言模型的"单向写死"特性根源于其概率分解方式：将联合概率 P(x₁, x₂, …, xₙ) 分解为逐步条件概率的乘积，每个 token 只能看到左侧已生成的内容。与此形成对比的是非自回归模型（Non-Autoregressive Models, NAR）和离散扩散模型，它们允许对整个序列同时或多轮修改。离散扩散模型（如 MDLM、SEDD）借鉴图像扩散的思路，在离散 token 空间中定义"加噪→去噪"过程，通过多次前向传播逐步还原完整序列；而掩码语言模型（如 BERT 的变体）则通过多轮填充 [MASK] 位置来实现迭代精修。这些方法的共同问题是推理时需要对全序列反复计算，当序列较长时计算成本急剧攀升。Reviser 正是在这一背景下提出的轻量替代方案。

Reviser 的核心设计：光标动作序列

Reviser 是一个仅含解码器（decoder-only）的 Transformer，它把生成一段回复的过程重新定义为在一块"可变画布"（mutable canvas）上执行一系列相对光标的动作。

三种动作原语

在每一步，Reviser 只预测一个动作 token，可能是以下三者之一：

• INSERT(token)：在当前光标位置插入一个 token
• MOVE(Δ)：将光标相对移动 Δ 个位置
• STOP：结束生成

关键在于，模型是在"编辑历史动作"上自回归，而不是在最终文本的顺序上自回归。这意味着 Reviser 可以在画布中间任意位置插入内容、可以向后移动光标去修改更早的部分，实现真正意义上的非单调（non-monotonic）生成，同时仍然保留了一个简单的"下一步动作"接口。

这种设计巧妙地把"修改能力"和"自回归的简洁性"结合起来：既不需要像扩散模型那样多轮迭代整段序列，又能突破从左到右的顺序限制。

Reviser 的训练数据需要将普通文本转换为"动作轨迹"（action trajectory）。一种自然的构造方式是通过比较文本的不同草稿版本（如编辑历史、diff 序列）来反向推导光标动作序列；另一种是用合成方式生成带有插入/移动操作的轨迹。这与代码补全、协作编辑等场景中的"增量 diff"概念高度相关——git diff 或文档修订记录天然就是此类动作序列的现实来源。值得注意的是，MOVE(Δ) 中的 Δ 可以为负值，代表向左回退光标，这是实现"回头改稿"的关键机制。整个动作序列的长度通常会长于最终输出文本，因为其中包含了大量移动和中间编辑步骤，这也是模型需要额外学习调度效率的原因。

实验结果：更受偏好且更省算力

论文在多个维度验证了 Reviser 的表现。

生成质量对比

在续写（continuation）基准的竞技场（arena）评估中，Reviser 明显优于 SEDD 和 MDLM 两个代表性的离散扩散/掩码语言模型基线，人类或评估者更倾向于选择 Reviser 的输出。

更有意思的是轨迹统计数据——它证实模型确实在频繁地执行向后移动和在画布中间插入的操作，而不是仅仅模拟"末尾追加"式的传统解码。换句话说，Reviser 并非表面上支持修改却实际退化成普通的从左到右生成，它真的学会了回头改稿。

规模与算力表现

面对参数量相当的自回归基线，Reviser 在 100M 和 300M 两个规模上都具有竞争力。这说明引入编辑能力并没有以牺牲基础生成质量为代价。

在推理算力方面，论文采用统一的 FLOPs 约定进行比较，结果显示 Reviser 所需的推理计算量显著低于多轮精修（multi-pass refinement）方法和扩散式基线。这一点尤为重要——修改能力的价值往往被高昂的推理成本抵消，而 Reviser 试图在两者之间找到更优的平衡点。

论文中提到的"统一 FLOPs 约定"是跨范式算力对比中的关键细节。不同生成范式的推理成本结构差异很大：自回归模型每生成一个 token 做一次前向传播，总 FLOPs 与序列长度线性正相关；扩散模型则需要固定轮数（如 T=100 或 T=1000 步）的前向传播，每轮作用于整个序列，总代价是"步数×序列长度"的函数。多轮精修方法（chain-of-thought refinement 或 self-refinement）则相当于多次调用完整模型。Reviser 的动作序列虽然比最终文本更长，但每步仍是单次 token 级前向传播，避免了对全序列的重复计算，因此在相同输出质量下的总 FLOPs 更低。这一对比前提是采用相同的 FLOPs 预算，而非简单比较参数量或生成速度。

意义与思考

Reviser 的思路代表了对生成范式的一种重新审视。当前 LLM 的"一次成型"模式虽然高效，但在需要复杂规划、结构调整或事后修正的任务中天然受限。让模型以动作序列的方式操作可变画布，某种程度上更接近人类写作与编辑的认知过程。

从工程角度看，这种基于光标动作的框架保留了自回归模型成熟的训练和推理基础设施，避免了非自回归方法的复杂性，落地门槛相对较低。当然，论文目前验证的规模仍停留在百兆参数级别，能否扩展到主流大模型的规模、在更复杂的推理和长文本任务中是否依然有效，还有待进一步观察。

对于关注文本生成前沿的研究者和工程师而言，Reviser 提供了一个值得思考的方向：修改能力不必以放弃自回归的简洁与高效为前提。