待验证50% 置信事实精确时间
在模型记忆训练数据后，logit的增长受到权重衰减与Adam优化器中ε超参数之间平衡的约束。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证延迟解耦时如果只复制权重而重置优化器动量状态，Adam会经历bias correction阶段导致数百步训练效率损失，并可能引发训练损失突然跳升73% 相似待验证在局部二次模型下，更大的batch意味着更少但更长的更新步，每一步在曲率上的损失更大，导致存在一个依赖学习率的临界批大小，超过该阈值后样本效率下降。72% 相似待验证文生图模型的理解本质上是大规模统计关联，面对训练集中稀少出现的长尾概念时生成质量会显著下滑71% 相似待验证训练数据中的重复内容会导致模型记忆化和性能下降70% 相似待验证双重下降现象不仅发生在模型规模维度，也可能出现在训练轮次（epochs）和数据量的变化中70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088272API
curl https://kongchang.com/api/v1/knowledge/claims/1088272MCP
get_claim(id=1088272)