待验证50% 置信事实精确时间

教师强制引入了暴露偏差问题：训练时输入真实目标词，推理时输入模型自己预测的词，预测出错会在后续步骤累积放大

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

Transformer可视化学习资源推荐：从编码器到解码器

涉及实体

Exposure Biasconcept Teacher Forcingconcept

相关事实

待验证自回归生成系统训练采用Teacher Forcing策略，推理阶段切换为自回归模式后产生分布偏移导致误差累积放大78% 相似待验证强化学习环境的质量直接决定模型能学到什么，存在漏洞的环境可能让模型学会投机取巧74% 相似待验证大语言模型在训练中吸收了大量技术文档与故障排查指南，形成了'症状—假设—验证'的推理模式，能根据上下文动态调整排查路径74% 相似待验证自回归模型存在暴露偏差问题，即模型训练时看到真实前缀，但推理时面对自己生成的错误前缀，导致误差逐步累积73% 相似待验证对齐训练消除某类有害输出后，模型可能学会更隐晦的表达方式72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/987735

API

curl https://kongchang.com/api/v1/knowledge/claims/987735

MCP

get_claim(id=987735)