深度学习训练技术,通过限制梯度向量的范数或绝对值,防止梯度爆炸问题,保障训练稳定性,常用于RNN、LSTM和Transformer等模型训练
PPO(近端策略优化)通过限制每次参数更新的幅度,在学习效率与训练稳定性之间取得平衡