已验证65% 置信事实精确时间

分类任务中的交叉熵损失本质上是对数似然函数的负值，最小化交叉熵等价于最大化模型对训练数据的对数似然

3

来源数

65%

置信度

长期有效

时效性

2026/7/13

首次发现

来源

机器学习数学基础学习路线：四大核心板块与资源推荐

相关事实

待验证假设数据服从伯努利或多项分布，最大化似然等价于最小化交叉熵损失函数78% 相似待验证有限样本估计熵率面临系统性负偏差问题，插件估计量倾向于低估真实熵，可用Miller-Madow校正通过添加(k-1)/(2N)项补偿74% 相似待验证当不动动作占据80%以上帧时，模型通过最小化交叉熵损失可在不学习有意义特征的情况下达到80%准确率，这称为多数类捷径71% 相似待验证投机解码在代码生成等低熵任务中接受率可达70-85%，在创意写作等高熵任务中可能降至40-60%71% 相似部分验证分布越确定其熵越低所需编码越短，分布越随机（如均匀分布）其熵越高69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/502908

API

curl https://kongchang.com/api/v1/knowledge/claims/502908

MCP

get_claim(id=502908)