待验证50% 置信事实精确时间

2024 年 Nature 上的相关论文表明，反复用模型自身输出进行微调会系统性地丢失原始数据分布的尾部信息

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

UniEvo-VL：自蒸馏训练如何让多模态模型自我进化

涉及实体

Natureproduct 模型崩塌concept

相关事实

待验证模型崩溃过程中，模型会逐渐丢失数据分布的长尾部分，最终收敛到单调、重复、缺乏多样性的输出69% 相似待验证人工复审的结果应回流用于持续校准模型和成本，否则系统会随数据漂移而失效68% 相似待验证Shumailov等人2024年在Nature上发表的研究证实，即使低至千分之一的合成数据污染也能引发词汇、句法和语义多样性的可测量退化66% 相似待验证降本往往伴随质量妥协：更短的上下文可能导致模型遗漏关键信息，更激进的缓存可能引入陈旧数据66% 相似待验证数据泄露指模型在预测某个时间点时实际上偷看了该时间点之后才会产生的数据64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/982699

API

curl https://kongchang.com/api/v1/knowledge/claims/982699

MCP

get_claim(id=982699)