待验证50% 置信事实精确时间
LEAF-OPD 采用教师-学生架构,其中冻结的教师模型在学生自己生成的回复上提供 token 级监督,属于在线策略蒸馏(On-Policy Distillation)思路。
1
来源数
50%
置信度
长期有效
时效性
2026/11/17
首次发现
来源
涉及实体
相关事实
待验证2.0 改用在线策略蒸馏,模型自己生成回复由教师模型对每个 token 打分,设置了两个教师(初版模型加隐藏真人指令负责聊天,纯基础模型负责指令遵循/工具调用/代码)79% 相似待验证PIVOT 方法将教师模型的在线纠正插入学生轨迹,并对纠正片段施加 token 级 KL 监督。73% 相似待验证异步OPD指学生采样与老师打分/蒸馏更新不在同一条同步流水线上执行,而是由不同进程或不同环境实例并行推进,再通过缓冲或参数服务器交换数据。70% 相似待验证LoopOPD是一个跨循环的在线策略蒸馏(cross-loop on-policy distillation)框架,它将一个冻结的终端循环策略作为计算特权教师,去指导中间循环的学生策略69% 相似待验证ABACUS采用生成式教师离线设计判断模式和组合程序,判断模型在线解决局部语义问题,保存的程序负责将决策组合成最终答案。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1179598API
curl https://kongchang.com/api/v1/knowledge/claims/1179598MCP
get_claim(id=1179598)