待验证50% 置信事实精确时间
自蒸馏中,如果教师是学生策略的EMA或同步变体,学生的每次更新都会改变教师,导致目标信号漂移,训练变成追逐移动靶。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
FSPO:函数空间时序自蒸馏,让策略优化更稳更省
rss2026/10/14
涉及实体
相关事实
待验证离线蒸馏使用教师模型预先生成的静态数据集训练学生,会导致协变量偏移(covariate shift)问题72% 相似待验证论文观察到来自固定教师的监督信号会随着学生模型能力的提升而变得越来越不划算72% 相似已验证在线策略蒸馏(OPD)让学生模型自己生成训练响应,再由教师模型提供监督信号70% 相似待验证教师-学生蒸馏框架先训练可访问完整环境信息的教师策略,再蒸馏到仅依赖机载传感器的学生策略中以实现真实硬件部署65% 相似待验证自适应课程(adaptive curriculum)用智能体当前表现作为反馈信号驱动课程进度,常见实现包括基于成功率阈值的进阶、基于策略梯度信号的难度调节,以及利用进步速度作为代理指标65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037322API
curl https://kongchang.com/api/v1/knowledge/claims/1037322MCP
get_claim(id=1037322)