概念HTMP / 高温Marchenko-Pastur分布 / High-Temperature Marchenko-Pastur
Marchenko-Pastur分布
随机矩阵理论中描述大型随机矩阵特征值分布的经典结果,其高温变体(HTMP)通过增大方差参数使特征值分布尾部变厚,可用于刻画深度神经网络训练后权重矩阵中观察到的重尾现象
随机矩阵理论中描述大型随机矩阵特征值分布的经典结果,其高温变体(HTMP)通过增大方差参数使特征值分布尾部变厚,可用于刻画深度神经网络训练后权重矩阵中观察到的重尾现象