待验证50% 置信事实精确时间
对数评分(log-score,即交叉熵)对极端错误的惩罚更激进,模型以接近 1.0 概率预测错误答案时对数评分趋向负无穷
1
来源数
50%
置信度
长期有效
时效性
2026/9/28
首次发现
来源
涉及实体
相关事实
待验证当模型对某个训练样本的预测概率接近1时,该样本对应的交叉熵损失趋近于零,模型几乎无法获得梯度更新信号72% 相似已验证分类任务中的交叉熵损失本质上是对数似然函数的负值,最小化交叉熵等价于最大化模型对训练数据的对数似然71% 相似待验证有限样本估计熵率面临系统性负偏差问题,插件估计量倾向于低估真实熵,可用Miller-Madow校正通过添加(k-1)/(2N)项补偿71% 相似待验证逻辑回归的损失函数(交叉熵)本质上就是负对数似然71% 相似待验证即便是提示词良好、被schema约束的80亿到140亿参数模型,在真实输入上仍会有百分之几的出错率,这是要设计应对的比率而非要消灭的bug70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/956115API
curl https://kongchang.com/api/v1/knowledge/claims/956115MCP
get_claim(id=956115)