待验证50% 置信观点精确时间
作者推测蒸馏训练导致开源模型学会坚持己见，倾向认为自己输出正确而重复同样的错误格式
1
来源数
50%
置信度
长期有效
时效性
2026/7/22
首次发现
来源
相关事实
待验证蒸馏训练范式导致开源模型学习到经过高度过滤、几乎不包含失败和纠错过程的数据分布，使模型形成不愿自我纠正的性格81% 相似待验证许多开源模型通过对GPT-4、Claude等闭源模型的知识蒸馏训练而来，这可能导致其继承教师模型的自信偏差，从而不愿在工具调用错误时自我纠正73% 相似待验证自回归生成系统训练采用Teacher Forcing策略，推理阶段切换为自回归模式后产生分布偏移导致误差累积放大71% 相似待验证幻觉源于模型的优化目标本身——模型被训练成生成语言上连贯、统计上合理的续文，而非事实上准确的答案69% 相似待验证监督微调训练模型模仿人类标注的正确答案，而强化学习微调让模型通过试错学习最优策略69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/590207API
curl https://kongchang.com/api/v1/knowledge/claims/590207MCP
get_claim(id=590207)