待验证50% 置信事实精确时间

在宽度M不断增大的贝叶斯神经网络中，ELBO中的KL散度正则项会逐渐压过期望对数似然项，导致变分预测分布退化为先验预测分布

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

似然温度调节如何拯救贝叶斯神经网络的"先验坍缩"

涉及实体

ELBOconcept KL散度concept 变分推断concept

相关事实

待验证当网络宽度M增大时，KL项随参数数量线性增长，而期望对数似然项增长速度相对较慢，这是先验主导现象的根本数学原因75% 相似已验证梯度消失是深层神经网络中梯度值在反向传播过程中指数级衰减，导致靠近输入层的参数几乎得不到更新66% 相似待验证深度神经网络天然倾向于过拟合训练分布，对分布外样本的处理能力往往大幅下降65% 相似待验证贝叶斯知识追踪（BKT）对阈值变化相对不敏感，而神经网络模型随着阈值升高会变得明显更挑剔64% 相似待验证从KL散度角度看，每一代合成数据与真实分布之间的散度都在单调递增，且误差会在迭代中累积64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/987029

API

curl https://kongchang.com/api/v1/knowledge/claims/987029

MCP

get_claim(id=987029)