待验证50% 置信事实精确时间

从信息论角度，DSL约束的本质是降低了输出分布的熵，一个等概率的N选1分布熵值为log₂N

1

来源数

50%

置信度

长期有效

时效性

2026/7/17

首次发现

来源

DSL如何让大语言模型输出更可靠：原理与实践

相关事实

待验证香农提出的信息熵概念表明低概率事件携带更高的信息量72% 相似待验证从信息论角度看，LLM的输出熵相对较低，倾向于收敛到训练数据的高概率区域72% 相似待验证逻辑回归中的交叉熵损失如果直接对 log(0) 求值会产生负无穷，需要加入极小的 epsilon 值或使用 log-sum-exp 技巧68% 相似已验证交叉熵损失起源于信息论中的KL散度，衡量真实概率分布与预测概率分布之间的差异程度67% 相似待验证信息论先驱香农指出任何信道容量都存在上限，当信源信息熵超过信道容量时信息损失不可避免66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/536280

API

curl https://kongchang.com/api/v1/knowledge/claims/536280

MCP

get_claim(id=536280)