待验证50% 置信事实精确时间
Scaling Laws概念最初由OpenAI、DeepMind等机构在2020年前后的研究中系统化提出,核心发现是模型交叉熵损失与参数量、训练数据量、计算量之间呈现平滑的幂律关系,且在相当宽范围内没有明显饱和迹象。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
涉及实体
相关事实
待验证Scaling Laws表明模型的交叉熵损失会随着计算量、数据量和参数量的增加而平滑下降,且这种下降关系可以用简单的幂律函数精确拟合76% 相似待验证OpenAI、DeepMind等机构的研究表明模型性能随参数量、数据量和计算量的增加呈幂律提升(Scaling Law)70% 相似待验证Scaling Laws描述的是预训练损失的下降,而非所有下游能力的线性提升,部分能力如复杂推理呈现涌现特性69% 相似待验证论文推导了超额风险界以刻画所提方法的泛化性能,这是端到端深度模型通常无法提供的理论工具。67% 相似待验证双重下降现象为OpenAI等机构提出的神经网络缩放定律(Scaling Laws)提供了理论基础66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1047934API
curl https://kongchang.com/api/v1/knowledge/claims/1047934MCP
get_claim(id=1047934)