Unverified50% confidenceFactExact time
微分熵可以取负值、不具有坐标不变性，在非线性变量变换下会发生改变
1
Sources
50%
Confidence
Long-term
Relevance
8/23/2026
First Seen
Sources
Related Entities
Related Claims
Unverified有限样本估计熵率面临系统性负偏差问题，插件估计量倾向于低估真实熵，可用Miller-Madow校正通过添加(k-1)/(2N)项补偿77% similarUnverified均匀转移情形下马尔可夫链熵率达到最大值 log N，确定性转移情形下熵率为074% similarVerified分类任务中的交叉熵损失本质上是对数似然函数的负值，最小化交叉熵等价于最大化模型对训练数据的对数似然71% similarPartially Verified分布越确定其熵越低所需编码越短，分布越随机（如均匀分布）其熵越高70% similarUnverified假设数据服从伯努利或多项分布，最大化似然等价于最小化交叉熵损失函数70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/789972API
curl https://kongchang.com/api/v1/knowledge/claims/789972MCP
get_claim(id=789972)