概念Glorot 初始化
Xavier 初始化
一种经典的神经网络权重初始化方法，通过令权重方差正比于输入与输出维度之和的倒数，使前向与反向传播中信号方差保持稳定，适用于 tanh、sigmoid 等对称线性激活函数
时间轴 (近 90 天)
9月1日
Xavier 初始化（Glorot, 2010）和 He 初始化（He et al., 2015）基于高斯分布，通过设计方差（分别为 1/n 和 2/n，n 为输入维度）保证每层输出方差与输入一致
待验证50%
8月31日
Xavier 初始化（Glorot, 2010）和 He 初始化（He et al., 2015）基于高斯分布或均匀分布，通过设计方差分别为 1/n 和 2/n（n 为输入维度）来维持梯度稳定流动
待验证50%
8月30日
Xavier 初始化由 Xavier Glorot 于2010年提出，将权重从均值为0、方差为 2/(n_in + n_out) 的分布中采样，适用于 Sigmoid/Tanh 等对称激活函数
待验证50%
全部知识事实 (3)
待验证
Xavier 初始化（Glorot, 2010）和 He 初始化（He et al., 2015）基于高斯分布，通过设计方差（分别为 1/n 和 2/n，n 为输入维度）保证每层输出方差与输入一致
50%待验证Xavier 初始化（Glorot, 2010）和 He 初始化（He et al., 2015）基于高斯分布或均匀分布，通过设计方差分别为 1/n 和 2/n（n 为输入维度）来维持梯度稳定流动
50%待验证Xavier 初始化由 Xavier Glorot 于2010年提出，将权重从均值为0、方差为 2/(n_in + n_out) 的分布中采样，适用于 Sigmoid/Tanh 等对称激活函数
50%