概念endpoint distillation
端点式蒸馏
一种只利用初始与终止检查点进行有限差分近似的策略蒸馏方法,无法捕捉训练过程中策略偏移的非单调变化
时间轴 (近 90 天)
10月16日
端点式策略蒸馏方法将教师模型RL训练前后log概率差值作为监督信号,施加在学生模型自己生成的轨迹上。
待验证50%
10月16日
端点式蒸馏无法区分'持续一致的正向策略偏移'和'早期猛增、后期回落'这两种情况,因为它们的端点差值可能完全相同。
待验证50%
一种只利用初始与终止检查点进行有限差分近似的策略蒸馏方法,无法捕捉训练过程中策略偏移的非单调变化
端点式策略蒸馏方法将教师模型RL训练前后log概率差值作为监督信号,施加在学生模型自己生成的轨迹上。
端点式蒸馏无法区分'持续一致的正向策略偏移'和'早期猛增、后期回落'这两种情况,因为它们的端点差值可能完全相同。