待验证50% 置信事实精确时间
2023年牛津大学、剑桥大学等机构的联合研究阐述了模型崩溃效应:当模型在自己生成的数据上迭代训练后,输出统计方差持续下降,稀有长尾知识首先消失,最终收敛为文化平均态
1
来源数
50%
置信度
长期有效
时效性
2026/7/7
首次发现
来源
均值回归:LLM如何悄然扼杀创新与多样性
hackernewshackernews2026/7/6
相关事实
待验证牛津大学2023年的一项研究量化了模型坍缩效应,仅经过五代自我训练,文本多样性指标下降了约40%82% 相似待验证2023年多项独立研究表明部分顶级模型在标准数学推理测试中分数极高,但在等价的重新表述版本上成绩大幅下滑,表明模型学习的是测试模式而非真正的推理能力65% 相似待验证消融实验显示,若继续训练主干通用知识掉10%、数学掉17.8%;若两塔共享权重则通用任务掉26%,其余指标全线崩溃65% 相似待验证Anthropic的研究表明,即便温和的对齐训练也会导致模型在某些推理密集型任务上下降2-8个百分点64% 相似部分验证2023年斯坦福大学Nelson Liu等人的研究发现,当关键信息被放置在长上下文的中间位置时,模型性能可下降超过20%64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/165887API
curl https://kongchang.com/api/v1/knowledge/claims/165887MCP
get_claim(id=165887)