待验证50% 置信事实精确时间

文中公式 δ_out = (a_out - y) * σ'(z_out) 省略了常数因子2，这在实践中不影响梯度下降的方向，仅相当于学习率缩放。

1

来源数

50%

置信度

长期有效

时效性

2026/10/19

首次发现

来源

用NumPy手搓神经网络：一次深入理解反向传播的实践

redditr/deeplearning2026/10/19

涉及实体

反向传播concept 均方误差（MSE）concept

相关事实

待验证反向传播中输出层误差项公式为 δ_out = (a_out - y) * σ'(z_out)。75% 相似已验证梯度下降通过迭代公式 θ = θ - α∇J(θ) 更新参数，其中α是学习率，∇J(θ)是损失函数对参数的偏导数向量68% 相似待验证岭回归通过在损失函数中添加L2正则化项将回归系数向零收缩但不置零，而LASSO（L1正则化）会产生稀疏解65% 相似待验证测试时计算扩展的边际收益并非线性，存在明显的收益递减区间63% 相似待验证实践中几乎没人使用原始的批量梯度下降，而是采用随机梯度下降（SGD）或小批量梯度下降（Mini-batch SGD）63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1069367

API

curl https://kongchang.com/api/v1/knowledge/claims/1069367

MCP

get_claim(id=1069367)