Unverified50% confidenceFactExact time
RNN存在梯度消失/爆炸问题，梯度跨越大量时间步传递时会指数级衰减或膨胀，导致难以学习远距离依赖
1
Sources
50%
Confidence
Long-term
Relevance
7/13/2026
First Seen
Sources
Transformer学习路径为何总是起步太晚？正确顺序比材料更重要
redditr/learnmachinelearning7/11/2026
Related Claims
UnverifiedRNN面临梯度消失问题，序列越长梯度经过的乘法链越长，数值呈指数级缩小85% similarUnverifiedRNN及其变体LSTM和GRU按时间步依次处理序列，存在梯度指数级衰减导致长距离依赖捕捉困难，以及无法并行化训练的缺陷81% similarUnverifiedRNN（循环神经网络）的核心缺陷在于其串行计算特性，必须按时间步逐一处理序列，导致长距离依赖关系随序列长度指数级衰减77% similarUnverified传统 RNN 架构因顺序处理的局限在面对远距离依赖时会出现梯度消失问题77% similarUnverified梯度消失是深层神经网络中梯度值在反向传播过程中指数级衰减，导致靠近输入层的参数几乎得不到更新77% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/496131API
curl https://kongchang.com/api/v1/knowledge/claims/496131MCP
get_claim(id=496131)