[控场AI]
概念Gradient Clipping / clipnorm / clipvalue

梯度裁剪

深度学习训练技术,通过限制梯度向量的范数或绝对值,防止梯度爆炸问题,保障训练稳定性,常用于RNN、LSTM和Transformer等模型训练

核心事实

时间轴 (近 90 天)

10月19日

论文的显式尾部表达式可用于设计更鲁棒的优化算法,例如自适应步长或梯度裁剪策略。

待验证50%

全部知识事实 (2)

来源文章