待验证50% 置信事实精确时间

Li等人2018年发现神经网络的有效参数空间维度远低于名义参数量，训练轨迹被限制在低维子空间中

1

来源数

50%

置信度

长期有效

时效性

2026/8/6

首次发现

来源

双重下降现象详解：为何超大模型反而不过拟合

相关事实

待验证深度神经网络天然倾向于过拟合训练分布，对分布外样本的处理能力往往大幅下降80% 相似待验证神经网络存在过度自信缺陷，即便输入落入训练分布之外，Softmax层仍可能输出虚高的置信度分数74% 相似待验证LeCun批评自回归LLM在系统2慢思考上存在根本性局限、对物理世界缺乏基础、token预测训练信号是平面的72% 相似待验证梯度学习的核心是连续优化，神经网络参数空间是高维实数空间，损失函数近似可微72% 相似待验证跨域微调时学习率过大会破坏预训练权重，过小则几乎学不动，需权衡设置70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/694287

API

curl https://kongchang.com/api/v1/knowledge/claims/694287

MCP

get_claim(id=694287)