Unverified50% confidenceFactExact time
Telgarsky等人的工作证明,深度网络在表示某些函数时比等宽度的浅层网络具有指数级的参数效率优势
1
Sources
50%
Confidence
Long-term
Relevance
8/21/2026
First Seen
Sources
Related Claims
Unverified近年来的理论研究表明,在过参数化的深度网络中,大部分局部极小值的质量接近全局最优,而鞍点才是优化的真正障碍78% similarUnverified在深度学习中,雅可比矩阵的计算是反向传播算法的数学基础,描述梯度如何在网络层间流动70% similarUnverified当需要表征的特征数量远超可用神经元数量时,网络会利用高维空间中近似正交向量数量远超维度数量的特性(Johnson-Lindenstrauss引理)将多个特征叠加压缩编码到同一组神经元上69% similarUnverified现代深度网络往往拥有数十亿乃至上万亿参数,远超训练样本数量,按经典统计学习理论应严重过拟合,实际上却展现出惊人的泛化能力68% similarUnverified大模型底层的数学结构是深度神经网络,本质上是无数个简单函数层层嵌套形成的复合函数67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/784079API
curl https://kongchang.com/api/v1/knowledge/claims/784079MCP
get_claim(id=784079)