待验证50% 置信事实精确时间
香农的信息熵公式为 H = -Σ p(x) log₂ p(x)，描述随机变量的平均不确定性
1
来源数
50%
置信度
长期有效
时效性
2026/8/31
首次发现
来源
涉及实体
相关事实
待验证不确定性估计主要有两条技术路径：利用Token概率（logprobs）和蒙特卡洛采样（对同一输入进行5-20次高温度采样并计算香农熵）73% 相似待验证对于平稳遍历过程，熵率极限存在且等于条件熵极限 lim H(X_n|X_{n-1},...,X_1)66% 相似待验证从信息论角度，DSL约束的本质是降低了输出分布的熵，一个等概率的N选1分布熵值为log₂N66% 相似已验证交叉熵损失起源于信息论中的KL散度，衡量真实概率分布与预测概率分布之间的差异程度64% 相似待验证逻辑回归中的交叉熵损失如果直接对 log(0) 求值会产生负无穷，需要加入极小的 epsilon 值或使用 log-sum-exp 技巧63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/829567API
curl https://kongchang.com/api/v1/knowledge/claims/829567MCP
get_claim(id=829567)