待验证50% 置信观点精确时间

语言模型的自信度与其判断的可靠性之间往往并不挂钩，存在幻觉式自信的风险

1

来源数

50%

置信度

长期有效

时效性

2026/9/28

首次发现

来源

多智能体代码评审何时可信？无标签检测让AI学会"拒绝猜测"

涉及实体

LLM as judgeconcept

相关事实

待验证目前主流大语言模型在置信度校准和选择性弃权方面均存在明显缺陷，往往过度自信，且面对超出训练分布的问题倾向于给出流畅但错误的回答79% 相似待验证当模型缺乏某个库的准确知识时，倾向于生成语法正确但语义错误的代码，即'自信错误'78% 相似待验证语言模型倾向于自我确认（self-confirmation）的偏差，导致单一 agent 自我批评效果有限73% 相似待验证缺乏自我验证的模型往往陷入自信出错的循环，即便初次生成准确率较高也难以可靠完成多步骤端到端任务69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/955497

API

curl https://kongchang.com/api/v1/knowledge/claims/955497

MCP

get_claim(id=955497)