待验证50% 置信事实精确时间

语言模型输出的置信度分数是经 softmax 缩放后的概率，反映相对偏好而非校准后的真实概率，经过 RLHF 或指令微调的模型普遍存在校准不良

1

来源数

50%

置信度

长期有效

时效性

2026/10/4

首次发现

来源

System 1 vs System 2 模型：一次性回答与链式推理的本质差异

涉及实体

softmaxconcept RLHFconcept confidence calibrationconcept

相关事实

待验证大语言模型的置信度输出本质上是概率分布的产物，而非对事实真伪的真实判断，可能对错误陈述表达高置信度73% 相似待验证在RLHF中，如果偏好数据质量低下或存在系统性偏差，奖励模型会学到错误信号，导致模型行为偏离预期72% 相似待验证大型语言模型可通过分析token概率分布、显式输出自我评估分数或多次采样观察答案一致性等手段近似估计决策置信度72% 相似已验证大语言模型本质上是在学习给定前文下一个词是什么的条件概率分布72% 相似待验证传统LLM经过RLHF人类偏好对齐后倾向于给出措辞坚定的答案，会导致概率估计失真72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/973503

API

curl https://kongchang.com/api/v1/knowledge/claims/973503

MCP

get_claim(id=973503)