概念Weight Spectra
权重谱
对权重矩阵进行奇异值分解后得到的特征值分布,反映权重矩阵的谱特性,用于分析模型权重的结构化特征
时间轴 (近 90 天)
10月15日
权重谱指对权重矩阵进行奇异值分解后得到的奇异值分布,反映权重在不同方向上的能量分布,可用于评估量化对矩阵低秩结构的破坏程度。
待验证50%
对权重矩阵进行奇异值分解后得到的特征值分布,反映权重矩阵的谱特性,用于分析模型权重的结构化特征
权重谱指对权重矩阵进行奇异值分解后得到的奇异值分布,反映权重在不同方向上的能量分布,可用于评估量化对矩阵低秩结构的破坏程度。