待验证50% 置信事实精确时间
Xavier 初始化（Glorot, 2010）和 He 初始化（He et al., 2015）基于高斯分布或均匀分布，通过设计方差分别为 1/n 和 2/n（n 为输入维度）来维持梯度稳定流动
1
来源数
50%
置信度
长期有效
时效性
2026/8/31
首次发现
来源
涉及实体
相关事实
待验证Xavier 初始化由 Xavier Glorot 于2010年提出，将权重从均值为0、方差为 2/(n_in + n_out) 的分布中采样，适用于 Sigmoid/Tanh 等对称激活函数77% 相似待验证Xavier初始化由Glorot于2010年提出，He初始化由He等人于2015年提出，两者的方差分别设计为1/n和2/n（n为输入维度）75% 相似待验证He初始化针对ReLU激活函数设计，通过将权重方差设为2/n来保证各层激活值方差稳定59% 相似待验证STE（Straight-Through Estimator）在前向传播中执行截断取整，但在反向传播时将梯度直通（近似梯度为1），以解决量化操作不可导的问题，由Bengio等人2013年论文正式系统化58% 相似待验证分布鸿沟（域偏移）最早由 Ben-David 等人在 2007 年的域适应理论中系统化描述56% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/831825API
curl https://kongchang.com/api/v1/knowledge/claims/831825MCP
get_claim(id=831825)