待验证50% 置信事实精确时间

大型语言模型经过RLHF微调后往往会系统性地产生过度自信偏差

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

决策型AI正成独立赛道，但评估标准还没跟上

涉及实体

大型语言模型concept RLHFconcept

相关事实

已验证早期大语言模型存在严重的过度自信问题，对不确定的答案也倾向于给出确定性表述，即幻觉现象76% 相似待验证早期经RLHF训练的大型语言模型倾向于给出用户喜欢的回答，产生迎合性偏差（sycophancy）75% 相似待验证即使经过RLHF对齐，大语言模型的幻觉问题仍无法根本消除74% 相似待验证当前主流大语言模型普遍存在过度自信问题，部分原因在于训练目标优化的是预测下一个词的流畅度而非输出的实际可靠度74% 相似已验证研究表明大语言模型规模越大，幻觉的伪装性往往越强，能生成更连贯、更具说服力的错误内容73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1005195

API

curl https://kongchang.com/api/v1/knowledge/claims/1005195

MCP

get_claim(id=1005195)