D²-OPD
一种用于在线策略蒸馏的改进方法，通过显式解耦外推的方向与距离来增强学习信号，包含逐前缀硬KL约束和自适应方向组合两个组件。
时间轴 (近 90 天)
D²-OPD通过显式解耦外推的方向和距离，在多个设定下取得了显著改进。
D²-OPD引入逐前缀的硬KL约束来为每个前缀设定明确上界，确保外推后的目标分布与教师分布之间的KL散度不超过预设阈值。
D²-OPD通过自适应加权组合教师模型的后训练偏移和初始学生-教师差距来确定外推方向。
D²-OPD使用前向KL散度优化学生模型，以同时覆盖教师分布中的低概率token。
D²-OPD在数学推理基准的三种设定下均取得最高分，相比最强基线方法最高提升了9.45分。
消融实验表明，D²-OPD的硬KL约束、自适应方向组合以及前向KL优化三个组件各自都对最终性能有正面作用。
D²-OPD的逐前缀硬KL约束计算开销可控，自适应方向组合不需要额外的教师前向传播，在实际训练中具有较好的可行性。
当前D²-OPD的实验主要集中在数学推理基准上，在开放式生成、多轮对话等其他任务类型上的表现仍有待验证。
D²-OPD原文未详细讨论硬KL约束的阈值选择策略，这可能是影响方法实际部署的一个关键超参数。
全部知识事实 (9)
D²-OPD通过显式解耦外推的方向和距离，在多个设定下取得了显著改进。
50%待验证D²-OPD引入逐前缀的硬KL约束来为每个前缀设定明确上界，确保外推后的目标分布与教师分布之间的KL散度不超过预设阈值。
50%待验证D²-OPD通过自适应加权组合教师模型的后训练偏移和初始学生-教师差距来确定外推方向。
50%待验证D²-OPD使用前向KL散度优化学生模型，以同时覆盖教师分布中的低概率token。
50%待验证D²-OPD在数学推理基准的三种设定下均取得最高分，相比最强基线方法最高提升了9.45分。
50%待验证消融实验表明，D²-OPD的硬KL约束、自适应方向组合以及前向KL优化三个组件各自都对最终性能有正面作用。
50%待验证D²-OPD的逐前缀硬KL约束计算开销可控，自适应方向组合不需要额外的教师前向传播，在实际训练中具有较好的可行性。
50%待验证当前D²-OPD的实验主要集中在数学推理基准上，在开放式生成、多轮对话等其他任务类型上的表现仍有待验证。
50%待验证D²-OPD原文未详细讨论硬KL约束的阈值选择策略，这可能是影响方法实际部署的一个关键超参数。
50%