[控场AI]
概念On-Policy Reminder Distillation

OPRD

一种面向长周期编码智能体的训练方法,通过在训练期引入提醒信号(turn-local与global两种粒度),并采用基于结果的路由机制,成功的rollout进行自模仿学习、失败的rollout接受提醒条件化的反向KL监督,从而在不依赖推理期提醒的条件下提升智能体的长周期任务能力。

时间轴 (近 90 天)

10月16日

OPRD(On-Policy Reminder Distillation)是一种从训练机制层面解决长周期编码任务中智能体丢约束、忽略上下文问题的新方法。

待验证50%
10月16日

论文诊断分析发现,编码智能体失败的原因往往不是缺少信息,而是已有的相关信息就在上下文里,模型却没有据此行动。

待验证50%
10月16日

OPRD的设计思路是训练时给予提醒信号,推理时完全撤掉提醒,让学生模型最终学会在没有提醒的条件下独立完成长周期任务。

待验证50%
10月16日

OPRD采用outcome-based routing:成功的rollout走自回归自模仿路径,失败的rollout接受提醒条件化的反向KL监督。

待验证50%
10月16日

OPRD的教师和学生共享同一套两阶段初始化:先做Coding SFT,再做Instruction-Following SFT。

待验证50%
10月16日

相对开源基座模型Qwen3.5-4B,OPRD在SWE-bench Verified、SWE-bench Pro、SWE-bench Multilingual三个基准上的平均任务解决率提升了11.3个百分点。

待验证50%
10月16日

在同样的诊断协议下,OPRD将聚合错误事件数从446降到222,减少了50.2%。

待验证50%

全部知识事实 (7)

来源文章