Reviser
一种基于自回归光标动作的文本生成模型，通过定义INSERT、MOVE、STOP三种动作原语在可变画布上执行编辑操作，实现非单调的文本生成与修改能力，同时保持自回归模型的简洁性
Timeline (last 90 days)
arXiv论文《Reviser: Revision-Capable Text Generation via Autoregressive Cursor Actions》提出了一种基于光标动作的可修改文本生成方法
Reviser是一个仅含解码器（decoder-only）的Transformer，将生成回复的过程定义为在可变画布上执行一系列相对光标的动作
Reviser每一步只预测一个动作token，包括INSERT(token)、MOVE(Δ)和STOP三种动作原语
Reviser的MOVE(Δ)中的Δ可以为负值，代表向左回退光标，实现回头改稿
Reviser是在编辑历史动作上自回归，而非在最终文本顺序上自回归，实现非单调生成
在续写基准的竞技场评估中，Reviser明显优于SEDD和MDLM两个离散扩散/掩码语言模型基线
Reviser在100M和300M两个规模上与参数量相当的自回归基线相比都具有竞争力
在统一FLOPs约定下，Reviser所需的推理计算量显著低于多轮精修方法和扩散式基线
轨迹统计数据证实Reviser模型确实频繁执行向后移动和在画布中间插入的操作，而非退化为末尾追加式解码
Reviser的动作序列长度通常长于最终输出文本，因为包含大量移动和中间编辑步骤
1 more timeline events
All Facts (11)
Reviser目前验证的规模仍停留在百兆参数级别，能否扩展到主流大模型规模有待观察
50%UnverifiedReviser是一个仅含解码器（decoder-only）的Transformer，将生成回复的过程定义为在可变画布上执行一系列相对光标的动作
50%UnverifiedReviser每一步只预测一个动作token，包括INSERT(token)、MOVE(Δ)和STOP三种动作原语
50%UnverifiedReviser的MOVE(Δ)中的Δ可以为负值，代表向左回退光标，实现回头改稿
50%UnverifiedReviser是在编辑历史动作上自回归，而非在最终文本顺序上自回归，实现非单调生成
50%Unverified在续写基准的竞技场评估中，Reviser明显优于SEDD和MDLM两个离散扩散/掩码语言模型基线
50%UnverifiedReviser在100M和300M两个规模上与参数量相当的自回归基线相比都具有竞争力
50%Unverified在统一FLOPs约定下，Reviser所需的推理计算量显著低于多轮精修方法和扩散式基线
50%Unverified轨迹统计数据证实Reviser模型确实频繁执行向后移动和在画布中间插入的操作，而非退化为末尾追加式解码
50%UnverifiedReviser的动作序列长度通常长于最终输出文本，因为包含大量移动和中间编辑步骤
50%UnverifiedarXiv论文《Reviser: Revision-Capable Text Generation via Autoregressive Cursor Actions》提出了一种基于光标动作的可修改文本生成方法
50%