待验证50% 置信事实精确时间
深思型开放问题具有高熵输出空间，合理答案分布分散，群体内部噪声掩盖了跨模型信号；而低熵提示合理答案集中，训练分布不同的模型会产生可量化的偏离
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证从信息论角度看，LLM的输出熵相对较低，倾向于收敛到训练数据的高概率区域73% 相似待验证长链式推理（Chain-of-Thought）训练中熵坍缩尤为突出，因为奖励信号只在推理链末端给出，中间步骤的梯度信号极为稀疏72% 相似待验证提问越模糊模型越倾向输出统计上最常见的平庸答案，约束越精准输出越贴近具体需求70% 相似待验证当模型遇到分布外输入时预测熵升高，softmax输出趋于均匀分布，nucleus sampling允许的候选token范围扩大，使长尾异常token获得被采样的机会68% 相似待验证LLM的幻觉问题源于其训练目标是最小化交叉熵损失而非优化命题真值，是与生成机制深度耦合的固有特性而非偶发缺陷67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/965099API
curl https://kongchang.com/api/v1/knowledge/claims/965099MCP
get_claim(id=965099)