待验证50% 置信事实精确时间

困惑度等于测试集交叉熵损失的指数：PPL = exp(loss)，loss=1.77对应PPL≈5.86

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

从零训练2亿参数大模型：踩坑实录与工程经验

涉及实体

困惑度concept

相关事实

已验证分类任务中的交叉熵损失本质上是对数似然函数的负值，最小化交叉熵等价于最大化模型对训练数据的对数似然76% 相似待验证交叉熵损失函数 H(p,q) = -Σp(x)log q(x) 的最小值在q=p时取到，等于真实分布的熵75% 相似待验证线性回归的最小二乘损失与逻辑回归的交叉熵损失分别对应高斯噪声假设与伯努利分布假设下的最大似然估计72% 相似待验证逻辑回归的损失函数（交叉熵）本质上就是负对数似然70% 相似待验证当模型对某个训练样本的预测概率接近1时，该样本对应的交叉熵损失趋近于零，模型几乎无法获得梯度更新信号69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/912650

API

curl https://kongchang.com/api/v1/knowledge/claims/912650

MCP

get_claim(id=912650)