Verified75% confidenceFactExact time
当语言模型在自身或同类模型生成的数据上反复训练时，会出现系统性退化，模型输出多样性逐代降低，分布尾部信息逐渐丢失
3
Sources
75%
Confidence
Long-term
Relevance
9/8/2026
First Seen
Sources
Related Entities
Related Claims
Verified模型崩溃指AI模型使用前代模型生成数据训练后，经过多代迭代输出分布会逐渐偏离原始真实数据分布，丢失分布尾部信息79% similarUnverifiedSynthetic data used to train large language models carries the risk of 'Model Collapse'.76% similarUnverified模型输出'困了'等表达是因为训练数据中充满人类的表达方式，属于语言层面的模式匹配而非真实状态反馈76% similarVerified当输入信息不完整时，大语言模型会基于训练数据中最常见的模式进行补全，这在统计学上叫做最大似然估计75% similarVerified若合成数据生成过程遗漏关键变量间的相关性，基于此训练的模型在真实部署环境中往往表现失常75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/875669API
curl https://kongchang.com/api/v1/knowledge/claims/875669MCP
get_claim(id=875669)