Unverified50% confidenceFactExact time
sigmoid激活函数的导数最大值仅为0.25，多层连乘后导致梯度迅速消失
1
Sources
50%
Confidence
Long-term
Relevance
7/14/2026
First Seen
Sources
Related Claims
VerifiedSigmoid函数存在梯度消失问题：当输入绝对值较大时，其导数趋近于0，导致反向传播时梯度逐层衰减82% similarVerified梯度消失问题源于Sigmoid或Tanh等饱和激活函数在输入值较大或较小时导数趋近于零，导致梯度逐层衰减77% similarUnverifiedSigmoid将输出压缩到0~1之间，Tanh是早期常用激活函数，但随网络层数加深会导致梯度消失问题70% similarUnverified梯度消失是深层神经网络中梯度值在反向传播过程中指数级衰减，导致靠近输入层的参数几乎得不到更新65% similarUnverifiedReLU激活函数为f(x)=max(0,x)，计算简单且不存在梯度消失问题，使更深网络训练成为可能65% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/503893API
curl https://kongchang.com/api/v1/knowledge/claims/503893MCP
get_claim(id=503893)