待验证50% 置信观点精确时间

让LLM为自己的回答提供置信度评分存在根本性缺陷，因为模型缺乏内省机制来准确判断自己是否知道某个事实。

1

来源数

50%

置信度

长期有效

时效性

2026/10/22

首次发现

来源

用LLM做置信度评分，为何是个坏主意？

涉及实体

LLMconcept 置信度评分concept

相关事实

待验证事实核查或对外承诺类任务要求模型具备可靠的知识边界和校准能力，目前还难以让人完全放手交给LLM。79% 相似待验证LLM解释不忠实的两个核心问题是不完整性（遗漏实际影响答案的因素）和不合理性（提到并未真正影响决策的因素）77% 相似待验证LLM在面对矛盾证据时缺乏有效修正假设的能力。77% 相似待验证传统LLM智能体缺乏对企业分散知识的显式表示，容易产生错误结果且难以有效吸收反馈。76% 相似已验证LLM模型的置信度与输出准确性之间没有可靠的正相关关系，本质上不具备元认知能力76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1084175

API

curl https://kongchang.com/api/v1/knowledge/claims/1084175

MCP

get_claim(id=1084175)