[控场AI]
概念神经网络高斯过程 / Neural Network Gaussian Process

NNGP

NNGP(神经网络高斯过程)是无限宽神经网络在特定初始化条件下的函数空间分布,其收敛到以网络架构和激活函数决定的核函数的高斯过程,精确贝叶斯后验具有解析形式。

时间轴 (近 90 天)

10月8日

对于预测方差,当c<1时方差保持先验值,当c=1时方差匹配NNGP后验方差,当c>1时方差趋于消失

待验证50%
10月8日

NNGP后验是指当神经网络宽度趋于无穷时,网络函数空间分布收敛到一个由网络架构和激活函数决定核函数的高斯过程

待验证50%
10月8日

通过适当选择τ和c,可以有选择地恢复NNGP后验的期望或方差,但无法同时无代价地恢复精确后验的全部统计特性

待验证50%

全部知识事实 (3)

来源文章