Waypoint-OPD
一种利用中间检查点进行方向一致性门控的策略蒸馏方法,用于从RL训练后的教师模型向学生模型迁移策略偏移
时间轴 (近 90 天)
Waypoint-OPD方法引入RL训练的中间检查点作为路径点,分别计算早期(初始→中间)和晚期(中间→端点)两个阶段的相对动作偏好变化,以判断策略偏移方向的一致性。
Waypoint-OPD基于方向一致性对端点偏移施加门控:方向一致时保留(门控值接近1),方向冲突时抑制(门控值接近0)。
Waypoint-OPD只需额外一次冻结教师的评分前向传播,计算开销很小。
在全部六个'领域×学生模型'组合中,Waypoint-OPD在领域平均分上都取得了对比方法中的最高成绩。
消融实验表明,以Qwen3-8B为学生时,移除门控或将门控随机打乱后,数学推理性能出现下降,说明方向一致性判断携带了有效信号。
Waypoint-OPD依赖于能够获取教师训练的中间检查点,对于只有最终模型的场景并不适用。
中间检查点的选择策略(取哪个时间点作为路径点)对Waypoint-OPD最终效果的影响尚未被充分探讨。
Waypoint-OPD可以看作把'多步差分'(类似GAE中降低单步估计方差的思想)引入跨模型蒸馏中,用中间检查点检验偏移方向的稳定性。
Waypoint-OPD的路径点选择本质上是在信息量与代表性之间做权衡,尚无理论指导。
全部知识事实 (9)
Waypoint-OPD方法引入RL训练的中间检查点作为路径点,分别计算早期(初始→中间)和晚期(中间→端点)两个阶段的相对动作偏好变化,以判断策略偏移方向的一致性。
50%待验证Waypoint-OPD基于方向一致性对端点偏移施加门控:方向一致时保留(门控值接近1),方向冲突时抑制(门控值接近0)。
50%待验证Waypoint-OPD只需额外一次冻结教师的评分前向传播,计算开销很小。
50%待验证在全部六个'领域×学生模型'组合中,Waypoint-OPD在领域平均分上都取得了对比方法中的最高成绩。
50%待验证消融实验表明,以Qwen3-8B为学生时,移除门控或将门控随机打乱后,数学推理性能出现下降,说明方向一致性判断携带了有效信号。
50%待验证Waypoint-OPD依赖于能够获取教师训练的中间检查点,对于只有最终模型的场景并不适用。
50%待验证中间检查点的选择策略(取哪个时间点作为路径点)对Waypoint-OPD最终效果的影响尚未被充分探讨。
50%待验证Waypoint-OPD可以看作把'多步差分'(类似GAE中降低单步估计方差的思想)引入跨模型蒸馏中,用中间检查点检验偏移方向的稳定性。
50%待验证Waypoint-OPD的路径点选择本质上是在信息量与代表性之间做权衡,尚无理论指导。
50%