概念On-policy Distillation
在线蒸馏
一种知识蒸馏训练范式，学生模型在自身策略生成的token序列上接收教师模型的监督信号，旨在消除训练与推理的分布偏移
时间轴 (近 90 天)
11月6日
在线蒸馏的根本性盲区是：教师能够到达而学生很少或从未到达的状态几乎得不到监督信号，因为学生采样概率极低导致这些区域无法获得梯度。
待验证50%
11月6日
论文《CoRD: Coupled Rollouts Fill the Blind Spot of On-Policy Distillation》提出了耦合轨迹蒸馏（CoRD）方法，旨在不放弃在线损失的前提下把训练状态的分布主动推向教师一侧。
待验证50%
11月6日
在五个公开数学基准上，以相同的训练步数和数据量对比，CoRD 相比在线蒸馏将平均 pass@1 提升 0.9 到 2.0 个百分点，pass@8 提升 1.2 到 3.4 个百分点。
待验证50%
11月6日
在冻结教师可达状态的实验中，使用 CoRD 训练的 4B 学生在 16 步内达到的差距缩小程度，在线蒸馏用 80 步仍未达到。
待验证50%
全部知识事实 (4)
待验证
在线蒸馏的根本性盲区是：教师能够到达而学生很少或从未到达的状态几乎得不到监督信号，因为学生采样概率极低导致这些区域无法获得梯度。
50%待验证论文《CoRD: Coupled Rollouts Fill the Blind Spot of On-Policy Distillation》提出了耦合轨迹蒸馏（CoRD）方法，旨在不放弃在线损失的前提下把训练状态的分布主动推向教师一侧。
50%待验证在五个公开数学基准上，以相同的训练步数和数据量对比，CoRD 相比在线蒸馏将平均 pass@1 提升 0.9 到 2.0 个百分点，pass@8 提升 1.2 到 3.4 个百分点。
50%待验证在冻结教师可达状态的实验中，使用 CoRD 训练的 4B 学生在 16 步内达到的差距缩小程度，在线蒸馏用 80 步仍未达到。
50%