概念Layer Normalization / LayerNorm / LN
层归一化
层归一化是一种神经网络归一化技术,对每个样本在特征维度上进行均值为零、方差为一的标准化处理,使各层激活值保持稳定,广泛用于Transformer等序列模型的训练稳定化
时间轴 (近 90 天)
9月11日
层归一化对每个样本在特征维度上做均值为零、方差为一的标准化
待验证50%
层归一化是一种神经网络归一化技术,对每个样本在特征维度上进行均值为零、方差为一的标准化处理,使各层激活值保持稳定,广泛用于Transformer等序列模型的训练稳定化
层归一化对每个样本在特征维度上做均值为零、方差为一的标准化