Verified65% confidenceFactExact time
分类任务中的交叉熵损失本质上是对数似然函数的负值，最小化交叉熵等价于最大化模型对训练数据的对数似然
3
Sources
65%
Confidence
Long-term
Relevance
7/13/2026
First Seen
Sources
Related Claims
Unverified假设数据服从伯努利或多项分布，最大化似然等价于最小化交叉熵损失函数78% similarUnverified有限样本估计熵率面临系统性负偏差问题，插件估计量倾向于低估真实熵，可用Miller-Madow校正通过添加(k-1)/(2N)项补偿74% similarUnverified当不动动作占据80%以上帧时，模型通过最小化交叉熵损失可在不学习有意义特征的情况下达到80%准确率，这称为多数类捷径71% similarUnverified投机解码在代码生成等低熵任务中接受率可达70-85%，在创意写作等高熵任务中可能降至40-60%71% similarPartially Verified分布越确定其熵越低所需编码越短，分布越随机（如均匀分布）其熵越高69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/502908API
curl https://kongchang.com/api/v1/knowledge/claims/502908MCP
get_claim(id=502908)