待验证50% 置信事实精确时间

标准反向传播本质上是梯度下降的离散迭代，当学习率看作无穷小时间步长时，该离散过程收敛为梯度流常微分方程 dθ/dt = −∇L(θ)

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

刚性微分方程求解器能加速神经网络训练吗？

涉及实体

梯度流concept 反向传播concept

相关事实

待验证梯度下降的权重更新规则为 w = w - lr * gradient，其中lr是学习率77% 相似待验证梯度下降的参数更新规则为 θ_{t+1} = θ_t - η·∇L(θ_t)，其中η是学习率，沿负梯度方向更新参数可最快减小损失函数76% 相似待验证梯度下降的收敛条件与学习率和损失函数的Lipschitz常数的关系有关75% 相似已验证梯度下降通过沿着损失函数梯度的反方向迭代调整权重使预测误差逐步收敛73% 相似待验证稀疏奖励加上长时间跨度使得基于梯度的优化信号在反向传播过程中大幅衰减72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/986549

API

curl https://kongchang.com/api/v1/knowledge/claims/986549

MCP

get_claim(id=986549)