APSD
一种基于自蒸馏的大模型后训练方法,针对正确与错误rollout采用非对称目标分布(正确时插值、错误时外推),以兼顾行为保持与错误纠正
时间轴 (近 90 天)
研究者提出APSD(Asymmetric Policy Optimization via Self-Distillation),通过构建正确性依赖的非对称目标分布来兼顾行为保持与错误纠正。
APSD对于正确rollout采用插值策略,目标分布位于学生和自教师之间,保留学生已成功的生成行为。
APSD对于错误rollout采用外推策略,目标分布延伸到自教师之外,强化纠正力度。
APSD的实验结果表明其在整体性能上优于强化学习基线和自蒸馏基线。
在Qwen3系列模型规模上,APSD以平均2.6倍更少的训练步数达到与SDPO相当的性能。
APSD的目标分布必须随学生分布动态调整,以保证有效的梯度传播。
APSD的评估目前集中在可验证奖励任务和Qwen3模型上,其在更开放、反馈噪声更大的场景中的泛化性仍有待验证。
全部知识事实 (7)
研究者提出APSD(Asymmetric Policy Optimization via Self-Distillation),通过构建正确性依赖的非对称目标分布来兼顾行为保持与错误纠正。
50%待验证APSD对于正确rollout采用插值策略,目标分布位于学生和自教师之间,保留学生已成功的生成行为。
50%待验证APSD对于错误rollout采用外推策略,目标分布延伸到自教师之外,强化纠正力度。
50%待验证APSD的实验结果表明其在整体性能上优于强化学习基线和自蒸馏基线。
50%待验证在Qwen3系列模型规模上,APSD以平均2.6倍更少的训练步数达到与SDPO相当的性能。
50%待验证APSD的目标分布必须随学生分布动态调整,以保证有效的梯度传播。
50%待验证APSD的评估目前集中在可验证奖励任务和Qwen3模型上,其在更开放、反馈噪声更大的场景中的泛化性仍有待验证。
50%