待验证50% 置信解决方案精确时间

在置信度评估场景中，RAG可将模型答案与检索到的权威文本做蕴含判断或事实比对，若答案无法在证据中找到支撑即视为低置信。

1

来源数

50%

置信度

长期有效

时效性

2026/10/22

首次发现

来源

用LLM做置信度评分，为何是个坏主意？

涉及实体

检索增强生成（RAG）concept 置信度评估concept

相关事实

待验证许多RAG应用的误区在于将“拒答”视为异常情况，导致模型在证据不足时仍倾向于给出一个答案。79% 相似待验证科研场景对引用准确性要求极高，RAG系统通常需要配合引用溯源、答案置信度评估和人工复核流程。77% 相似待验证决定法律RAG系统是否上线应依据精确率和召回率等量化指标，而非演示时的印象76% 相似已验证对使用RAG的系统，检索质量和答案质量应分开监控，因为糟糕的答案可能源于检索差而非生成能力弱74% 相似待验证当前许多RAG评估框架（如RAGAS）已将faithfulness列为核心指标，但实际工程评测中该步骤常被简化或跳过74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1084179

API

curl https://kongchang.com/api/v1/knowledge/claims/1084179

MCP

get_claim(id=1084179)