[控场AI]
概念在线策略自蒸馏 / On-Policy Self-Distillation

OPSD

一种知识蒸馏变体,不依赖固定离线教师模型,而是在训练过程中由当前策略或其增强版本实时生成token级监督信号回传给模型,可缓解稀疏奖励下的信用分配难题

时间轴 (近 90 天)

10月20日

该研究在六个视觉推理基准上进行了验证,VAG相比GRPO和OPSD方法均取得一致优势,并刷新了平均性能最优水平。

待验证50%

全部知识事实 (1)

来源文章