待验证50% 置信事实精确时间
广义高斯-牛顿近似是一种用于近似神经网络损失函数曲率（Hessian矩阵）的方法，利用雅可比矩阵的外积来逼近Hessian，从而在可接受的计算开销下估计曲率。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
待验证牛顿法利用Hessian的逆矩阵确定更新步长和方向 Δθ = -H⁻¹∇L，理论上能以二次收敛速度找到极值点76% 相似待验证完整牛顿法需要 O(d³) 的计算复杂度来求解 Hessian 矩阵的逆，在高维问题中不可接受68% 相似待验证Muon优化器由Jeremy Bernstein等人提出，核心思想是对梯度矩阵通过Newton-Schulz迭代执行正交化处理64% 相似待验证Jacobian 矩阵描述向量值函数对输入向量的所有一阶偏导数，元素 J_ij = ∂f_i/∂x_j 刻画输入第 j 个分量微小变化对输出第 i 个分量的影响。63% 相似待验证Eckart-Young-Mirsky定理证明，在所有秩为k的矩阵中，由SVD前k个奇异值构成的截断近似矩阵是在Frobenius范数意义下对原矩阵的最佳近似62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1102741API
curl https://kongchang.com/api/v1/knowledge/claims/1102741MCP
get_claim(id=1102741)