待验证50% 置信事实精确时间

当一个系统持续以自己的输出作为输入时，误差会被不断累积和放大，原始分布中的稀有样本（长尾）会率先消失

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

模型崩溃并非AI独有：一个古老问题的新面孔

涉及实体

反馈闭环系统concept

相关事实

待验证当生成模型反复在自身生成的数据上训练时，输出分布会逐渐退化，低概率事件被系统性遗忘76% 相似待验证当标注不一致存在时，增加更多数据只会成倍放大混乱，向模型提供自相矛盾的监督信号75% 相似待验证分布式系统中容错机制本身有时会成为故障扩散的放大器73% 相似待验证在稀疏采样条件下丢失 prompt 末尾的 prefill 检查点可能导致状态错乱、输出偏差，甚至生成结果不可复现72% 相似待验证当提示词的措辞发生微小变化时，模型的输出分布会随之漂移，导致前后结论出现矛盾72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/989855

API

curl https://kongchang.com/api/v1/knowledge/claims/989855

MCP

get_claim(id=989855)