深度学习
深度学习是机器学习的一个子领域，通过构建具有多个隐藏层的人工神经网络，自动从数据中提取层次化特征表示，以完成分类、识别、生成等任务。其核心思想是模拟人脑神经元的连接方式，利用大规模数据和反向传播算法进行端到端的训练，广泛应用于计算机视觉、自然语言处理、语音识别等领域。
核心事实
时间轴 (近 90 天)
深度学习AI系统在训练数据分布之外的场景中表现会急剧下降（分布偏移问题），对罕见疾病的识别能力不如经验丰富的专家
深度学习模型的黑盒问题根源在于特征空间与概念空间之间的鸿沟
放射科AI主要依赖深度学习中的卷积神经网络（CNN）技术，通过对数十万甚至数百万张标注过的医学影像进行训练，学会识别肿瘤、骨折、肺部结节等异常特征
生成式AI训练过程中，模型并不存储原始数据的副本，而是将数据抽象为数学参数（权重）
到2013年前后,基于深度学习的OCR技术对早期文字扭曲型CAPTCHA的识别率达到90%以上
扩散模型的核心思想源于2015年的深度学习研究
Pearl认为深度学习本质上是曲线拟合器，只能停留在关联层
传统OCR技术从早期基于规则的模板匹配发展到如今深度学习驱动的端到端识别
深度学习模型在识别肺癌、皮肤癌、眼底病变等方面已达到甚至超越人类专家水平
前沿模型存在涌现能力，即在达到某个参数规模阈值后突然展现出训练目标中未明确包含的能力
还有 26 条时间轴事件
全部知识事实 (20)
GPU的大规模并行计算架构天然适合深度学习中的矩阵运算，其数千个计算核心可将训练过程加速数十倍乃至数百倍
70%已验证梯度下降是深度学习中最核心的优化算法，其数学本质是沿着损失函数的负梯度方向迭代更新参数
65%已验证深度学习是机器学习的一个子领域，核心是多层人工神经网络，思想最早可追溯至1940年代
65%已验证GPU的并行计算架构最初源于游戏图形渲染的需求，其计算模式与深度学习的张量批量运算相似
65%待验证推荐的AI自学路径遵循从基础层（Python、Pandas、NumPy）到核心层（机器学习算法与项目实践）再到进阶层（深度学习）的递进顺序
85%待验证相比深度学习，梯度提升在中小型数据集上通常更稳定、更可解释、训练更快
80%待验证初学者常见错误是在对底层数据处理和经典机器学习只有肤浅理解时就急于进入深度学习和大模型
80%待验证大模型训练阶段的能耗约为推理阶段的数百倍
60%待验证底层的机器学习和深度学习算法基础十几年来并没有本质变化，核心都是神经网络体系
60%待验证深度学习AI系统在训练数据分布之外的场景中表现会急剧下降（分布偏移问题），对罕见疾病的识别能力不如经验丰富的专家
50%待验证深度学习模型的黑盒问题根源在于特征空间与概念空间之间的鸿沟
50%待验证放射科AI主要依赖深度学习中的卷积神经网络（CNN）技术，通过对数十万甚至数百万张标注过的医学影像进行训练，学会识别肿瘤、骨折、肺部结节等异常特征
50%待验证生成式AI训练过程中，模型并不存储原始数据的副本，而是将数据抽象为数学参数（权重）
50%待验证到2013年前后,基于深度学习的OCR技术对早期文字扭曲型CAPTCHA的识别率达到90%以上
50%待验证扩散模型的核心思想源于2015年的深度学习研究
50%待验证Pearl认为深度学习本质上是曲线拟合器，只能停留在关联层
50%待验证传统OCR技术从早期基于规则的模板匹配发展到如今深度学习驱动的端到端识别
50%待验证深度学习模型在识别肺癌、皮肤癌、眼底病变等方面已达到甚至超越人类专家水平
50%待验证前沿模型存在涌现能力，即在达到某个参数规模阈值后突然展现出训练目标中未明确包含的能力
50%待验证Adam优化器是当前深度学习中最常用的优化器之一
50%