待验证50% 置信事实精确时间
边缘稳定性是近年发现的一种大步长梯度下降训练现象:当步长超过经典稳定性阈值时,损失并非发散,而是锐度在临界值附近波动并仍能收敛。
1
来源数
50%
置信度
长期有效
时效性
2026/11/6
首次发现
来源
涉及实体
相关事实
待验证对于有限步长,即使驻点在连续时间梯度流下不稳定,若步长过大可能跳过逃逸方向导致数值发散,若步长过小则逃逸时间可能指数级增长而看似停滞。75% 相似待验证标准反向传播本质上是梯度下降的离散迭代,当学习率看作无穷小时间步长时,该离散过程收敛为梯度流常微分方程 dθ/dt = −∇L(θ)71% 相似待验证普通梯度下降相当于用显式欧拉法求解梯度流ODE,而欧拉法在面对刚性方程时效率极低,必须用极小步长才能保持稳定70% 相似待验证在闭环系统中,优化离线损失与保证闭环稳定性这两个目标并不一致,前者甚至可能主动选择导致轨迹发散的参数。69% 相似待验证梯度下降在众多能完美拟合训练集的解中天然倾向于选择更平坦、更简单的解,这一隐式正则化效应与泛化能力密切相关69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1142250API
curl https://kongchang.com/api/v1/knowledge/claims/1142250MCP
get_claim(id=1142250)