#随机矩阵理论

重尾权重谱为何能预测模型质量：一个统计学解释

本文解读一项研究：为何训练后权重矩阵的重尾谱分布能预测深度神经网络质量。研究通过边际似然与高温Marchenko-Pastur分布，给出了统计学解释，并推导出可预测过拟合的最优重尾程度。