概念Variational Inference / VI / 均值场变分推断
变分推断
变分推断是贝叶斯近似推断的核心方法,通过将后验推断转化为优化问题,用参数化的近似分布逼近真实后验,以ELBO为优化目标。均值场变分推断假设参数间相互独立,是最常用的近似策略。
时间轴 (近 90 天)
10月8日
在宽度M不断增大的贝叶斯神经网络中,ELBO中的KL散度正则项会逐渐压过期望对数似然项,导致变分预测分布退化为先验预测分布
待验证50%
变分推断是贝叶斯近似推断的核心方法,通过将后验推断转化为优化问题,用参数化的近似分布逼近真实后验,以ELBO为优化目标。均值场变分推断假设参数间相互独立,是最常用的近似策略。
在宽度M不断增大的贝叶斯神经网络中,ELBO中的KL散度正则项会逐渐压过期望对数似然项,导致变分预测分布退化为先验预测分布