[控场AI]
概念endpoint distillation

端点式蒸馏

一种只利用初始与终止检查点进行有限差分近似的策略蒸馏方法,无法捕捉训练过程中策略偏移的非单调变化

时间轴 (近 90 天)

10月16日

端点式策略蒸馏方法将教师模型RL训练前后log概率差值作为监督信号,施加在学生模型自己生成的轨迹上。

待验证50%
10月16日

端点式蒸馏无法区分'持续一致的正向策略偏移'和'早期猛增、后期回落'这两种情况,因为它们的端点差值可能完全相同。

待验证50%

全部知识事实 (2)

来源文章