待验证50% 置信事实精确时间
论文将现有OPSD做法归纳为两类:一是整个训练过程中教师固定并接触完整参考;二是在每个回答内部教师不变,但跨回答自适应变化部分参考的暴露程度。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证论文《Every Token Needs Its Own Teacher: Multi-teacher Adaptive On-policy Self-distillation》指出,现有OPSD方法假设教师是固定的,且这一假设存在根本局限。74% 相似待验证MTA-OPSD将自蒸馏中的教师选择问题转化为Token级的动态路由问题,教师不再静态超参数而是随训练状态和Token上下文变化的变量。72% 相似待验证Steered-Teacher OPSD(ST-OPSD)通过激活引导技术同时缓解参考幻觉与 reconsideration 抑制两种失败模式。71% 相似待验证PIVOT 将教师引导拆解为两个互补机制:轨迹级干预(在学生轨迹中插入教师纠正)和 token 级监督(对纠正片段提供稠密的目标信号)。68% 相似待验证OPRD的教师和学生共享同一套两阶段初始化:先做Coding SFT,再做Instruction-Following SFT。66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115269API
curl https://kongchang.com/api/v1/knowledge/claims/1115269MCP
get_claim(id=1115269)