待验证85% 置信事实时间未知

从KL散度角度看，每一代合成数据与真实分布之间的散度都在单调递增，且误差会在迭代中累积

1

来源数

85%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

合成数据是解药还是毒药？AI训练数据枯竭的破局之道

bilibili老傅1024

涉及实体

KL散度concept

相关事实

部分验证KL散度D(p,q)描述当使用错误的分布q来编码实际服从分布p的数据时，相比使用正确分布p会浪费多少额外比特74% 相似待验证分布偏移意味着训练集与测试集之间的KL散度不为零，即两个分布之间存在可度量的信息差距70% 相似待验证当生成模型反复在自身生成的数据上训练时，输出分布会逐渐退化，低概率事件被系统性遗忘68% 相似待验证研究团队证明学习分布与真实分布之间的总变差距离可分解为初始化误差、Score误差和求解器离散化误差三项67% 相似待验证检测模型的训练数据永远落后于最新生成技术的输出分布，学术界称之为「分布偏移」问题66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/9802

API

curl https://kongchang.com/api/v1/knowledge/claims/9802

MCP

get_claim(id=9802)