Unverified50% confidenceFactExact time
目前双重下降的严格理论证明主要在线性模型和随机特征模型等简化设定下给出，深度非线性网络的完整数学刻画仍是开放问题
1
Sources
50%
Confidence
Long-term
Relevance
8/6/2026
First Seen
Sources
Related Claims
Unverified激活函数赋予深度网络拟合任意复杂非线性函数的理论能力，若无激活函数网络本质上仍是线性变换69% similarUnverified自回归大模型推理瓶颈并非计算量而是内存带宽，推测解码通过拒绝采样保证输出分布与原始大模型完全一致68% similarUnverified大模型中的参数在数学上是神经网络每条连接边上的权重数值和偏置值，训练前随机初始化，通过反向传播算法和梯度下降不断调整67% similarUnverified交叉熵损失函数鼓励模型将正确类别的logit推向无穷大，导致深度网络预测过于确定67% similarUnverified集成学习的理论基础来自偏差-方差权衡框架，单一复杂模型存在高方差而简单模型存在高偏差67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/693828API
curl https://kongchang.com/api/v1/knowledge/claims/693828MCP
get_claim(id=693828)