概念preconditioner
预条件子
在自适应优化算法中，由二阶矩的平方根倒数构成的对角预条件子，为每个坐标缩放梯度步长
时间轴 (近 90 天)
10月13日
在 AdamW 中，参数更新量约等于一阶矩除以（二阶矩的平方根加 ε），二阶矩平方根的倒数扮演预条件子角色，为每个坐标自适应缩放梯度。
待验证50%
在自适应优化算法中，由二阶矩的平方根倒数构成的对角预条件子，为每个坐标缩放梯度步长
在 AdamW 中，参数更新量约等于一阶矩除以（二阶矩的平方根加 ε），二阶矩平方根的倒数扮演预条件子角色，为每个坐标自适应缩放梯度。