待验证50% 置信事实精确时间

RNN/LSTM 结构的翻译模型中梯度爆炸问题尤其突出，因为长序列的反向传播容易累积过大梯度

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

翻译模型陷入退化循环？Loss上升与重复词问题排查指南

涉及实体

RNNconcept LSTMconcept

相关事实

已验证RNN存在梯度消失/爆炸问题，梯度跨越大量时间步传递时会指数级衰减或膨胀，导致难以学习远距离依赖70% 相似待验证反复应用同一组权重容易导致梯度在多次迭代中放大或消失，类似于早期RNN的梯度问题68% 相似待验证反向传播需要缓存前向传播的中间激活值以计算梯度，在超大模型上带来沉重的显存负担66% 相似待验证反向传播机制要求整个计算图必须是可微分的，且在极深网络中存在梯度消失/爆炸问题65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/982816

API

curl https://kongchang.com/api/v1/knowledge/claims/982816

MCP

get_claim(id=982816)