待验证50% 置信事实精确时间

小批量梯度下降是批量和随机梯度下降的折衷，也是深度学习框架中最常用的方式

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

从零实现线性回归：用NumPy手写梯度下降理解机器学习

涉及实体

小批量梯度下降concept

相关事实

已验证梯度下降是机器学习中最核心的优化算法，学习率过大会导致震荡、过小则收敛缓慢79% 相似待验证批量梯度下降使用全部训练数据计算梯度，随机梯度下降每次只用一个样本，小批量梯度下降在两者之间取得平衡76% 相似待验证梯度学习的核心是连续优化，神经网络参数空间是高维实数空间，损失函数近似可微75% 相似已验证梯度下降衍生出批量梯度下降、随机梯度下降和小批量梯度下降三种主要变体，Adam优化器是在动量与自适应学习率基础上的综合改进74% 相似待验证梯度下降的收敛条件与学习率和损失函数的Lipschitz常数的关系有关74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/901609

API

curl https://kongchang.com/api/v1/knowledge/claims/901609

MCP

get_claim(id=901609)