GAD-RL
一种用于提升OCR转录忠实度的强化学习训练方法，通过门控、衰减和概率加权KL三重机制动态调节教师蒸馏强度，基于GRPO框架结合On-Policy蒸馏实现任务奖励与教师指导的协同优化
时间轴 (近 90 天)
arXiv论文《Improving OCR Faithfulness via Gated and Attenuated On-Policy Distillation》提出了GAD-RL方法
GAD-RL全称为Gated and Attenuated Distillation RL，核心是在联合后训练中根据学生当前任务表现和局部分布动态调节教师监督的强度
论文观察到来自固定教师的监督信号会随着学生模型能力的提升而变得越来越不划算
GAD-RL的门控机制：当某响应组中存在任务奖励达到0.95以上的输出时，直接禁用该组的蒸馏
GAD-RL的衰减机制：随着组内平均奖励升高，蒸馏强度持续被削弱，保持监督强度与学生能力间的平滑反比关系
GAD-RL用学生对教师Top-1 token的预测概率来加权前向KL散度，当学生对教师推荐token支持度低时抑制局部辅助更新
在Qwen3.5-2B模型上，GAD-RL在CHAOS-Bench取得59.92%的Micro Recall，分别比GRPO和固定权重的GRPO+OPD高出8.45和4.43个百分点
GAD-RL在OmniDocBench v1.6上取得91.18的Overall总分
论文的验证主要集中在OCR忠实度场景和Qwen3.5-2B规模模型上，更大规模模型和更多样化任务的泛化能力尚未验证
全部知识事实 (9)
arXiv论文《Improving OCR Faithfulness via Gated and Attenuated On-Policy Distillation》提出了GAD-RL方法
50%待验证GAD-RL全称为Gated and Attenuated Distillation RL，核心是在联合后训练中根据学生当前任务表现和局部分布动态调节教师监督的强度
50%待验证论文观察到来自固定教师的监督信号会随着学生模型能力的提升而变得越来越不划算
50%待验证GAD-RL的门控机制：当某响应组中存在任务奖励达到0.95以上的输出时，直接禁用该组的蒸馏
50%待验证GAD-RL的衰减机制：随着组内平均奖励升高，蒸馏强度持续被削弱，保持监督强度与学生能力间的平滑反比关系
50%待验证GAD-RL用学生对教师Top-1 token的预测概率来加权前向KL散度，当学生对教师推荐token支持度低时抑制局部辅助更新
50%待验证在Qwen3.5-2B模型上，GAD-RL在CHAOS-Bench取得59.92%的Micro Recall，分别比GRPO和固定权重的GRPO+OPD高出8.45和4.43个百分点
50%待验证GAD-RL在OmniDocBench v1.6上取得91.18的Overall总分
50%待验证论文的验证主要集中在OCR忠实度场景和Qwen3.5-2B规模模型上，更大规模模型和更多样化任务的泛化能力尚未验证
50%