概念Tikhonov regularization / 岭回归正则化
Tikhonov正则化
解决不适定问题的经典正则化方法,通过在目标函数中加入参数范数惩罚(如L2正则)来约束解空间,使解更稳定、更唯一
时间轴 (近 90 天)
10月21日
论文从理论上证明了SPIN隐式地采用了逆Hessian近似,提供了Tikhonov正则化效果,能够阻尼OCL中单样本Hessian估计的噪声,从而缓解遗忘。
待验证50%
10月21日
Tikhonov正则是解决不适定问题的经典方法,通过在目标函数中加入参数范数惩罚(如L2正则)来约束解空间,在二阶优化中等价于在Hessian矩阵上加正定项(如λI)。
待验证50%