[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
可恢复性
Recoverability
在线策略蒸馏中提出的核心假设,指教师模型具备从学生任意错误前缀出发、沿该前缀找到通往正确答案的合理路径的能力。若该性质失效,教师无法纠正学生错误,监督信号会被污染。
来源文章
CriticOPD:用批判引导纠正On-Policy蒸馏的监督失效
10月15日