待验证50% 置信事实精确时间

条件熵 H(Y|X) 表示在已知 X 的条件下 Y 剩余的不确定性，熵与互信息的关系 H(Y) = I(X;Y) + H(Y|X) 是分解瞬时与持久贡献的关键恒等式。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

信息论审计：循环架构中瞬时状态与持久参数记忆的解离

涉及实体

条件熵concept 互信息concept

相关事实

待验证困惑度概念源自信息论中的熵（Shannon Entropy），本质上是语言模型每步预测的平均分支因子68% 相似已验证语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值68% 相似待验证二分类交叉熵损失公式为 -[y·log(p) + (1-y)·log(1-p)]，其中y是真实标签，p是模型预测的正类概率68% 相似待验证随机变量的香农熵定义为 H(X) = -∑ p(x) log p(x)，衡量随机变量的平均不确定性67% 相似待验证超额熵定义为过去与未来之间的互信息，以比特为单位衡量过去中对预测未来有用的信息量65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1010264

API

curl https://kongchang.com/api/v1/knowledge/claims/1010264

MCP

get_claim(id=1010264)