待验证50% 置信事实精确时间

目前双重下降的严格理论证明主要在线性模型和随机特征模型等简化设定下给出，深度非线性网络的完整数学刻画仍是开放问题

1

来源数

50%

置信度

长期有效

时效性

2026/8/6

首次发现

来源

双重下降现象详解：为何超大模型反而不过拟合

相关事实

待验证激活函数赋予深度网络拟合任意复杂非线性函数的理论能力，若无激活函数网络本质上仍是线性变换69% 相似待验证自回归大模型推理瓶颈并非计算量而是内存带宽，推测解码通过拒绝采样保证输出分布与原始大模型完全一致68% 相似待验证大模型中的参数在数学上是神经网络每条连接边上的权重数值和偏置值，训练前随机初始化，通过反向传播算法和梯度下降不断调整67% 相似待验证交叉熵损失函数鼓励模型将正确类别的logit推向无穷大，导致深度网络预测过于确定67% 相似待验证集成学习的理论基础来自偏差-方差权衡框架，单一复杂模型存在高方差而简单模型存在高偏差67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/693828

API

curl https://kongchang.com/api/v1/knowledge/claims/693828

MCP

get_claim(id=693828)