待验证50% 置信事实精确时间

由于 H(p) 是与模型无关的常数，最小化交叉熵等价于最小化KL散度，此等价关系在数学上精确

1

来源数

50%

置信度

长期有效

时效性

2026/8/4

首次发现

来源

从熵到交叉熵：逻辑回归损失函数的信息论推导

相关事实

待验证最小化交叉熵等价于最小化真实分布与预测分布之间的 KL 散度77% 相似待验证假设数据服从伯努利或多项分布，最大化似然等价于最小化交叉熵损失函数69% 相似待验证均匀转移情形下马尔可夫链熵率达到最大值 log N，确定性转移情形下熵率为068% 相似已验证分类任务中的交叉熵损失本质上是对数似然函数的负值，最小化交叉熵等价于最大化模型对训练数据的对数似然65% 相似待验证线性回归的最小二乘损失与逻辑回归的交叉熵损失分别对应高斯噪声假设与伯努利分布假设下的最大似然估计64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/684813

API

curl https://kongchang.com/api/v1/knowledge/claims/684813

MCP

get_claim(id=684813)