重尾权重谱

深度神经网络权重矩阵的奇异值/特征值分布呈现重尾特征的现象，经验研究表明其与模型泛化质量正相关，可作为无需训练数据的模型质量代理指标