Unverified50% confidenceFactExact time
交叉熵 = 真实分布的熵 + KL 散度
1
Sources
50%
Confidence
Long-term
Relevance
7/14/2026
First Seen
Sources
Related Claims
Verified熵的数学定义为H(p) = -∑ p(x_i) log p(x_i)68% similarUnverifiedClaude Shannon在1949年证明，若密钥的熵大于或等于消息的熵且密钥只使用一次，则方案具有完美保密性60% similarUnverifiedSAC由UC Berkeley的Haarnoja等人提出，引入最大熵框架，在优化期望累积奖励的同时最大化策略的熵59% similarVerified克劳德·香农于1948年发表《通信的数学理论》，提出信息熵概念，低概率事件携带更高信息量，公式为I(x) = -log₂P(x)58% similarUnverified1951年香农发表论文《印刷英语的预测与熵》，通过人类被试预测下一字符的实验估计英语熵约为每字符1.0-1.5比特55% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/503562API
curl https://kongchang.com/api/v1/knowledge/claims/503562MCP
get_claim(id=503562)