NgramRL
一种用于强化学习后训练的推测解码方法，利用近期 rollout 历史构建 n-gram 草稿器，无需辅助模型或草稿器训练即可加速自回归 rollout 生成。
时间轴 (近 90 天)
NgramRL 利用近期 rollout 历史为每个 prompt 构建 n-gram 草稿器，无需辅助模型、无需草稿器训练、无需在 GPU 常驻草稿器状态。
NgramRL 引入自适应 fan-out 预取器和因果预算分配器，预测验证结果 (j, b) 并提前并行取出多个候选续写，未覆盖时回退到顺序查找。
在两个模型家族、三类推理与结构化生成负载上，NgramRL 在热缓存场景下每次目标模型前向可提交 3.60–7.77 个 token。
NgramRL 的平均接受长度比 SuffixDecoding 最多高出 1.99 倍。
NgramRL 的平均接受长度比 prompt-lookup decoding 高出 7.0 倍。
在 Spider 结构化生成任务上，候选预算为 16 时，预取器覆盖了 Qwen3-8B 96.6% 的验证结果。
在 Spider 任务上，NgramRL 实测 rollout 吞吐相比同步版提升 1.38 倍，逼近 1.40 倍的 CPU-GPU overlap 理论上限。
NgramRL 报告的 3.60–7.77 接受长度是在热缓存条件下取得的稳态指标，冷启动或 prompt 历史稀疏时收益预计会缩水。
NgramRL 的对比基线集中在无模型推测解码方法，缺乏与基于模型的草稿器方案的横向对照。
NgramRL 的优势是零额外显存与零草稿器训练，代价是需要维护按 prompt 组织的 rollout 历史缓存，工程复杂度转移到数据管线一侧。
全部知识事实 (10)
NgramRL 利用近期 rollout 历史为每个 prompt 构建 n-gram 草稿器，无需辅助模型、无需草稿器训练、无需在 GPU 常驻草稿器状态。
50%待验证NgramRL 引入自适应 fan-out 预取器和因果预算分配器，预测验证结果 (j, b) 并提前并行取出多个候选续写，未覆盖时回退到顺序查找。
50%待验证在两个模型家族、三类推理与结构化生成负载上，NgramRL 在热缓存场景下每次目标模型前向可提交 3.60–7.77 个 token。
50%待验证NgramRL 的平均接受长度比 SuffixDecoding 最多高出 1.99 倍。
50%待验证NgramRL 的平均接受长度比 prompt-lookup decoding 高出 7.0 倍。
50%待验证在 Spider 结构化生成任务上，候选预算为 16 时，预取器覆盖了 Qwen3-8B 96.6% 的验证结果。
50%待验证在 Spider 任务上，NgramRL 实测 rollout 吞吐相比同步版提升 1.38 倍，逼近 1.40 倍的 CPU-GPU overlap 理论上限。
50%待验证NgramRL 报告的 3.60–7.77 接受长度是在热缓存条件下取得的稳态指标，冷启动或 prompt 历史稀疏时收益预计会缩水。
50%待验证NgramRL 的对比基线集中在无模型推测解码方法，缺乏与基于模型的草稿器方案的横向对照。
50%待验证NgramRL 的优势是零额外显存与零草稿器训练，代价是需要维护按 prompt 组织的 rollout 历史缓存，工程复杂度转移到数据管线一侧。
50%