待验证50% 置信事实精确时间
模式坍塌在LLM的提示生成中表现为模型倾向于反复回到训练分布中概率最高的‘安全’回答。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
涉及实体
相关事实
待验证LLM 后训练中，模型把本应隐藏的中间推理步骤直接吐给用户，或者在 RL 奖励计算时，本该只评估最终答案的奖励模型看到了推理过程，从而扭曲优化方向。78% 相似待验证提示注入利用的是模型无法可靠区分「数据」与「指令」的天然缺陷，这一缺陷根植于LLM的训练机制本身77% 相似待验证若广泛采用对遗漏视而不见的LLM裁判来打分、做基准测试或指导模型训练（如RLHF、RLAIF），整个优化循环可能被误导，模型会学会生成看起来完整实则残缺的内容76% 相似待验证模型在面对训练分布之外（分布外查询）的问题时，可能退化为基于表面模式的猜测76% 相似待验证领先模型若被用于生成训练数据，可能将自身偏差系统性地传递给下一代，即'模型坍塌'风险75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1129087API
curl https://kongchang.com/api/v1/knowledge/claims/1129087MCP
get_claim(id=1129087)