待验证50% 置信事实精确时间

神经网络在层数叠高后会遇到梯度消散问题导致训练难以收敛，直到2010年前后一系列技术突破解决了深层网络训练难题，才有了深度神经网络（DNN）的称谓

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

从零实现大模型：前向计算与特征空间变换详解

涉及实体

深度神经网络concept 梯度消散concept

相关事实

待验证2012年深度学习浪潮后，深度神经网络逐步替代GMM形成DNN-HMM混合架构77% 相似待验证残差连接与层归一化解决了深层网络训练不稳定的问题，使模型可堆叠到数十层75% 相似待验证跳跃连接通过提供梯度直通路径解决了深度网络训练中的梯度消失问题，使极深网络训练成为可能74% 相似待验证微软研究院何恺明等人于2015年提出残差连接（Residual Connection），使训练超过100层乃至1000层的极深神经网络成为可能73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/896498

API

curl https://kongchang.com/api/v1/knowledge/claims/896498

MCP

get_claim(id=896498)