Unverified100% confidenceFactExact time
分布越确定其熵越低所需编码越短，分布越随机（如均匀分布）其熵越高
2
Sources
100%
Confidence
Long-term
Relevance
8/2/2026
First Seen
Sources
Related Entities
Related Claims
Unverified最小化交叉熵等价于最小化真实分布与预测分布之间的 KL 散度81% similarUnverified假设数据服从伯努利或多项分布，最大化似然等价于最小化交叉熵损失函数80% similarUnverified有限样本估计熵率面临系统性负偏差问题，插件估计量倾向于低估真实熵，可用Miller-Madow校正通过添加(k-1)/(2N)项补偿76% similarVerified分类任务中的交叉熵损失本质上是对数似然函数的负值，最小化交叉熵等价于最大化模型对训练数据的对数似然69% similarUnverified均匀转移情形下马尔可夫链熵率达到最大值 log N，确定性转移情形下熵率为066% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/679893API
curl https://kongchang.com/api/v1/knowledge/claims/679893MCP
get_claim(id=679893)