[控场AI]
概念Gradient Clipping / clipnorm / clipvalue

梯度裁剪

深度学习训练技术,通过限制梯度向量的范数或绝对值,防止梯度爆炸问题,保障训练稳定性,常用于RNN、LSTM和Transformer等模型训练

核心事实

来源文章