已验证80% 置信事实精确时间

熵的数学定义为H(p) = -∑ p(x_i) log p(x_i)

6

来源数

80%

置信度

长期有效

时效性

2026/8/2

首次发现

来源

From Entropy to Cross-Entropy: An Information-Theoretic Derivation of the Logistic Regression Loss Function

涉及实体

相关事实

待验证sigmoid 激活配合交叉熵损失，对权重求导会简化为 ∂L/∂w = (ŷ - y) · x75% 相似已验证交叉熵 = 真实分布的熵 + KL 散度68% 相似已验证克劳德·香农于1948年发表《通信的数学理论》，提出信息熵概念，低概率事件携带更高信息量，公式为I(x) = -log₂P(x)64% 相似待验证几何能量耗散定理推导出封闭系统中熵以波动式演化而非单调增长61% 相似待验证U-Lens 的核心打分公式为：分数 = 隐状态指向不同怀疑方向的强度 × 推理 token 的平均熵。59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/679890

API

curl https://kongchang.com/api/v1/knowledge/claims/679890

MCP

get_claim(id=679890)