概念NTK / Neural Tangent Kernel
神经正切核
描述无限宽神经网络在梯度下降训练下动态行为的核函数。该核由网络架构和初始化决定,在无限宽极限下保持恒定,使神经网络的训练等价于核方法。
核心事实
时间轴 (近 90 天)
10月3日
神经正切核(NTK)理论指出当神经网络宽度趋向无穷时,网络在梯度下降训练中的行为等价于以NTK为核的核回归模型,且网络不做特征学习
已验证75%
8月22日
对于有限宽度网络,NTK在训练中的变化量与1/√m成正比(m为宽度),这一偏差是特征学习发生的机制
待验证50%
8月22日
神经正切核理论由Arthur Jacot等人于2018年提出,其核心洞见是当网络宽度趋于无穷时训练过程退化为核回归问题
待验证50%
8月22日
在NTK框架下训练损失以指数速率e^{-2ηλ_min t}衰减,收敛速度由核矩阵最小特征值λ_min决定
待验证50%