待验证50% 置信事实精确时间
Scaling Laws表明模型的交叉熵损失会随着计算量、数据量和参数量的增加而平滑下降,且这种下降关系可以用简单的幂律函数精确拟合
1
来源数
50%
置信度
长期有效
时效性
2026/8/28
首次发现
来源
涉及实体
相关事实
待验证如果交叉熵稳步下降而Dice波动剧烈,问题几乎可以确定出在Dice损失的配置上78% 相似待验证Scaling Laws发现语言模型交叉熵损失与参数量N、数据集大小D、计算量C存在幂律关系,约为L ∝ N^(-0.076)、L ∝ D^(-0.095)、L ∝ C^(-0.050)75% 相似已验证交叉熵损失起源于信息论中的KL散度,衡量真实概率分布与预测概率分布之间的差异程度73% 相似待验证交叉熵损失在分类任务中往往比MSE收敛更快,因为它与softmax输出配合,梯度不会在饱和区消失71% 相似待验证标准交叉熵损失在目标占图像面积较小时会导致严重的类别不平衡问题,模型倾向于全部预测为背景69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/810525API
curl https://kongchang.com/api/v1/knowledge/claims/810525MCP
get_claim(id=810525)