概念Newton's Method
牛顿法
牛顿法是一种基于二阶导数(海森矩阵)的优化算法,具有快速收敛特性,常用于求解非线性优化问题。
时间轴 (近 90 天)
10月22日
一阶泰勒展开对应梯度下降的线性近似,二阶展开引入曲率信息对应牛顿法等二阶优化方法。
待验证50%
10月20日
传统牛顿类双层方法依赖经典超梯度公式,该公式在底层问题解不唯一或底层海森矩阵奇异时失效。
待验证50%
9月3日
完整牛顿法需要 O(d³) 的计算复杂度来求解 Hessian 矩阵的逆,在高维问题中不可接受
待验证50%