待验证50% 置信权衡取舍精确时间
Muon-RT的收敛保证依赖于对齐假设,即要求教师位移与当前梯度的内积不为负;若教师滞后过久、与学生当前走向严重背离,假设可能被破坏。
1
来源数
50%
置信度
长期有效
时效性
2026/11/2
首次发现
来源
涉及实体
相关事实
待验证弱到强泛化并非普遍成立,而是依赖于目标结构、训练方式等条件,条件不满足时学生可能无法超越教师70% 相似待验证简单的token移除只能削弱教师安全倾向向学生的迁移效应,无法彻底消除;事后DPO对齐也只能部分纠正这种已烙印的行为倾向。69% 相似待验证论文发现:当学生的轨迹走向错误方向时,教师不会纠正错误,反而会顺着学生的错误继续续写,即教师具备识别错误的能力但缺乏跳出错误的能力69% 相似待验证论文《Trajectory as the Teacher》提出真正的瓶颈是轨迹本身而非学生模型67% 相似已验证蒸馏训练的教师模型输出极少包含自我纠错示例,导致学生模型形成「强模型不犯错」的隐性信念,在校验失败时选择重复而非修正66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1125154API
curl https://kongchang.com/api/v1/knowledge/claims/1125154MCP
get_claim(id=1125154)