已验证65% 置信事实精确时间

Sigmoid函数存在梯度消失问题：当输入绝对值较大时，其导数趋近于0，导致反向传播时梯度逐层衰减

3

来源数

65%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

Neural Networks from Scratch: A Deep Dive into the Fundamentals from Linear Regression to Gradient Descent

bilibiliAI课堂2026/6/11

相关事实

待验证sigmoid激活函数的导数最大值仅为0.25，多层连乘后导致梯度迅速消失82% 相似已验证梯度消失问题源于Sigmoid或Tanh等饱和激活函数在输入值较大或较小时导数趋近于零，导致梯度逐层衰减79% 相似待验证Sigmoid将输出压缩到0~1之间，Tanh是早期常用激活函数，但随网络层数加深会导致梯度消失问题76% 相似待验证梯度消失是深层神经网络中梯度值在反向传播过程中指数级衰减，导致靠近输入层的参数几乎得不到更新67% 相似待验证在高维空间中通过令导数为零求解析解几乎不可能，梯度下降是可扩展到高维的策略66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/47623

API

curl https://kongchang.com/api/v1/knowledge/claims/47623

MCP

get_claim(id=47623)