[控场AI]
概念NTK / Neural Tangent Kernel

神经正切核

描述无限宽神经网络在梯度下降训练下动态行为的核函数。该核由网络架构和初始化决定,在无限宽极限下保持恒定,使神经网络的训练等价于核方法。

核心事实

时间轴 (近 90 天)

10月3日

神经正切核(NTK)理论指出当神经网络宽度趋向无穷时,网络在梯度下降训练中的行为等价于以NTK为核的核回归模型,且网络不做特征学习

已验证75%
8月22日

对于有限宽度网络,NTK在训练中的变化量与1/√m成正比(m为宽度),这一偏差是特征学习发生的机制

待验证50%
8月22日

神经正切核理论由Arthur Jacot等人于2018年提出,其核心洞见是当网络宽度趋于无穷时训练过程退化为核回归问题

待验证50%
8月22日

在NTK框架下训练损失以指数速率e^{-2ηλ_min t}衰减,收敛速度由核矩阵最小特征值λ_min决定

待验证50%

全部知识事实 (4)

来源文章