待验证50% 置信事实精确时间
缩放定律(scaling laws)描述了模型损失随参数量、数据量和计算量呈幂律下降的经验规律。
1
来源数
50%
置信度
长期有效
时效性
2026/10/25
首次发现
来源
涉及实体
相关事实
待验证Scaling Laws表明模型的交叉熵损失会随着计算量、数据量和参数量的增加而平滑下降,且这种下降关系可以用简单的幂律函数精确拟合74% 相似待验证权重衰减通过在损失函数中加入与权重平方成正比的惩罚项,使权重向零收缩,从而限制模型有效容量。71% 相似待验证Scaling Laws描述的是预训练损失的下降,而非所有下游能力的线性提升,部分能力如复杂推理呈现涌现特性70% 相似待验证学界普遍认为质量损失是解释模型与观测差距的核心因素之一,但定量细节仍有待研究。69% 相似待验证2018年Wachter等人将反事实解释形式化为可计算的损失函数:最小化特征变化量的同时约束模型输出翻转到期望类别68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1097298API
curl https://kongchang.com/api/v1/knowledge/claims/1097298MCP
get_claim(id=1097298)