待验证50% 置信事实精确时间
在该研究中,即使平均学习动态收敛到正确最优解,学习过程的方差也可能渐近无穷大。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
已验证学习率决定每步迈多大,太大会越过谷底导致发散,太小则耗时极长79% 相似待验证该研究发现,当学习到的计算需要输入因素之间更高阶的交互时,表征轨迹会系统性地变得更加不直接(路径曲折度增大)。77% 相似待验证在采样梯度场景下,当学习率η减小时,固定β下的期望增益消失速度快于波动本身,导致动量好处被噪声吞噬。76% 相似待验证在长周期训练中,哪怕每个epoch有千分之一的样本错位,经过数万step累积后也可能显著改变模型的收敛路径,使得不同资源调度下的实验结果失去可比性。75% 相似待验证任何对比可训练参数量不同的微调方案的研究都应警惕共享学习率陷阱,否则参数更少效果更好的结论可能需要重新审视74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1102647API
curl https://kongchang.com/api/v1/knowledge/claims/1102647MCP
get_claim(id=1102647)