概念implicit bias
隐式偏置
优化算法在训练过程中隐式偏好某类解的性质，决定了算法收敛解的方向和泛化行为
时间轴 (近 90 天)
11月6日
在对抗线性逻辑回归中，即使步长任意大，对抗训练和标准训练的隐式偏置差距依然持续存在。
待验证50%
9月20日
梯度下降在众多能完美拟合训练集的解中天然倾向于选择更平坦、更简单的解，这一隐式正则化效应与泛化能力密切相关
待验证50%
优化算法在训练过程中隐式偏好某类解的性质，决定了算法收敛解的方向和泛化行为
在对抗线性逻辑回归中，即使步长任意大，对抗训练和标准训练的隐式偏置差距依然持续存在。
梯度下降在众多能完美拟合训练集的解中天然倾向于选择更平坦、更简单的解，这一隐式正则化效应与泛化能力密切相关