LoopOPD
一种面向循环语言模型的跨循环在线策略蒸馏框架,利用模型自身更深递归计算步骤作为教师信号,指导中间循环学生策略,实现无需外部教师模型的递归自我提升
时间轴 (近 90 天)
LoopOPD是一个跨循环的在线策略蒸馏(cross-loop on-policy distillation)框架,它将一个冻结的终端循环策略作为计算特权教师,去指导中间循环的学生策略
LoopOPD的蒸馏过程发生在学生自己生成的rollout上,而非外部数据,无需引入外部教师模型或特权信息即可提供密集监督信号
D-LoopOPD(Dynamic LoopOPD)在共享模型参数更新后持续刷新终端循环教师,形成递归自我提升闭环
论文推导出一组充分条件,在这些条件下单次参数更新能够同时在两个循环深度上带来局部改进
LoopOPD的实验基于Ouro-Thinking系列模型展开
实验显示LoopOPD显著提升了模型的数学推理能力,D-LoopOPD通过动态教师更新带来进一步增益
作者表示LoopOPD的代码与模型检查点将在论文被接收后发布
LoopOPD当前结论主要基于Ouro-Thinking特定模型家族,方法在更大规模、更多架构上的通用性仍有待检验
全部知识事实 (8)
LoopOPD是一个跨循环的在线策略蒸馏(cross-loop on-policy distillation)框架,它将一个冻结的终端循环策略作为计算特权教师,去指导中间循环的学生策略
50%待验证LoopOPD的蒸馏过程发生在学生自己生成的rollout上,而非外部数据,无需引入外部教师模型或特权信息即可提供密集监督信号
50%待验证D-LoopOPD(Dynamic LoopOPD)在共享模型参数更新后持续刷新终端循环教师,形成递归自我提升闭环
50%待验证论文推导出一组充分条件,在这些条件下单次参数更新能够同时在两个循环深度上带来局部改进
50%待验证LoopOPD的实验基于Ouro-Thinking系列模型展开
50%待验证实验显示LoopOPD显著提升了模型的数学推理能力,D-LoopOPD通过动态教师更新带来进一步增益
50%待验证作者表示LoopOPD的代码与模型检查点将在论文被接收后发布
50%待验证LoopOPD当前结论主要基于Ouro-Thinking特定模型家族,方法在更大规模、更多架构上的通用性仍有待检验
50%