待验证50% 置信事实精确时间
研究者通过计算适配器更新矩阵的主成分并追踪其随λ变化的动态，当λ使教师停止思考时更新子空间中某些方向发生显著偏移，该偏移点对应教师思考行为的消失。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
待验证自回归生成系统训练采用Teacher Forcing策略，推理阶段切换为自回归模式后产生分布偏移导致误差累积放大74% 相似待验证知识蒸馏的中间层对齐策略（如PKD、TinyBERT）通过强制学生模型的隐藏表示模仿教师模型的分布间接约束嵌入几何结构71% 相似待验证知识蒸馏和编译式方案的共同前提是教师模型在特定任务上的行为具有可归纳的规律性，否则压缩或固化会带来明显精度损失。70% 相似已验证本实验采用轨迹级蒸馏，属于行为克隆范畴，直接让学生模型模仿教师模型的外在行为序列68% 相似待验证在知识蒸馏中，off-policy蒸馏使用教师模型生成的轨迹作为训练样本，存在教师访问状态分布与学生自身状态分布不一致的分布偏移问题。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1134024API
curl https://kongchang.com/api/v1/knowledge/claims/1134024MCP
get_claim(id=1134024)