[控场AI]
概念Asymmetric Policy Optimization via Self-Distillation

APSD

一种基于自蒸馏的大模型后训练方法,针对正确与错误rollout采用非对称目标分布(正确时插值、错误时外推),以兼顾行为保持与错误纠正

时间轴 (近 90 天)

10月20日

研究者提出APSD(Asymmetric Policy Optimization via Self-Distillation),通过构建正确性依赖的非对称目标分布来兼顾行为保持与错误纠正。

待验证50%
10月20日

APSD对于正确rollout采用插值策略,目标分布位于学生和自教师之间,保留学生已成功的生成行为。

待验证50%
10月20日

APSD对于错误rollout采用外推策略,目标分布延伸到自教师之外,强化纠正力度。

待验证50%
10月20日

APSD的实验结果表明其在整体性能上优于强化学习基线和自蒸馏基线。

待验证50%
10月20日

在Qwen3系列模型规模上,APSD以平均2.6倍更少的训练步数达到与SDPO相当的性能。

待验证50%
10月20日

APSD的目标分布必须随学生分布动态调整,以保证有效的梯度传播。

待验证50%
10月20日

APSD的评估目前集中在可验证奖励任务和Qwen3模型上,其在更开放、反馈噪声更大的场景中的泛化性仍有待验证。

待验证50%

全部知识事实 (7)

来源文章