ORL
一种针对扩散语言模型的训练加速框架，通过在线策略残差学习和相邻熵收缩，使模型在更少前向次数内并行确定更多token，提升推理吞吐
时间轴 (近 90 天)
ORL（On-Policy Residual Learning）是由Reddit机器学习社区放出的开源项目，旨在加速扩散语言模型（dLLM）的推理，覆盖模型权重、训练代码、评估流程和推理引擎。
ORL采用on-policy残差学习：训练数据由当前模型实时生成，以保证训练分布与推理分布一致。
ORL引入相邻熵收缩（Adjacent Entropy Contraction），要求每个去噪步骤相对上一步降低不确定性，并对高置信度预测做门控。
据作者在Reddit帖子中报告，ORL将QwenDLM-4B每次前向的token数提升最多6.2倍，端到端吞吐提升约6.9倍，HumanEval pass@1从82.9%升到89.6%。
在LLaDA-2.1-mini上，ORL只需4.2M自生成训练token和36个H100 GPU小时的后训练，就能在质量相当的前提下获得最多3倍吞吐提升。
单张RTX 5090配合LLaDA-2.1-mini + ORL在NVFP4精度下达到2,788 tokens/s（单请求解码，batch size 1）。
8×B200上DiffusionGemma 26B MoE + ORL在NVFP4精度下达到7,708 tokens/s（单请求解码）。
在单张H100、相近实测准确率下，QwenDLM-4B + ORL达到1,298 tokens/s，DFlash为746 tokens/s，EAGLE3为405 tokens/s（端到端系统比较：ORL走dlmrt，投机解码走vLLM）。
ORL训练侧配套做了残差状态捕获、专用注意力kernel和计算均衡打包，训练步速最多加快5.2倍。
ORL项目提供的入口包括arXiv论文（2610.20687）、项目主页与交互demo、GitHub上的训练与评估代码、dlmrt推理引擎仓库以及Hugging Face上的checkpoint。
全部知识事实 (10)
ORL（On-Policy Residual Learning）是由Reddit机器学习社区放出的开源项目，旨在加速扩散语言模型（dLLM）的推理，覆盖模型权重、训练代码、评估流程和推理引擎。
50%待验证ORL采用on-policy残差学习：训练数据由当前模型实时生成，以保证训练分布与推理分布一致。
50%待验证ORL引入相邻熵收缩（Adjacent Entropy Contraction），要求每个去噪步骤相对上一步降低不确定性，并对高置信度预测做门控。
50%待验证据作者在Reddit帖子中报告，ORL将QwenDLM-4B每次前向的token数提升最多6.2倍，端到端吞吐提升约6.9倍，HumanEval pass@1从82.9%升到89.6%。
50%待验证在LLaDA-2.1-mini上，ORL只需4.2M自生成训练token和36个H100 GPU小时的后训练，就能在质量相当的前提下获得最多3倍吞吐提升。
50%待验证单张RTX 5090配合LLaDA-2.1-mini + ORL在NVFP4精度下达到2,788 tokens/s（单请求解码，batch size 1）。
50%待验证8×B200上DiffusionGemma 26B MoE + ORL在NVFP4精度下达到7,708 tokens/s（单请求解码）。
50%待验证在单张H100、相近实测准确率下，QwenDLM-4B + ORL达到1,298 tokens/s，DFlash为746 tokens/s，EAGLE3为405 tokens/s（端到端系统比较：ORL走dlmrt，投机解码走vLLM）。
50%待验证ORL训练侧配套做了残差状态捕获、专用注意力kernel和计算均衡打包，训练步速最多加快5.2倍。
50%待验证ORL项目提供的入口包括arXiv论文（2610.20687）、项目主页与交互demo、GitHub上的训练与评估代码、dlmrt推理引擎仓库以及Hugging Face上的checkpoint。
50%