待验证50% 置信事实精确时间
Faithfulness指标中,法官对同一段答案拆出的claim数量会变化(例如一条答案三次分别被拆成5、10、11条),导致分母变动从而分数波动;Precision和recall由yes/no判断构成,148条chunk判断中有5条在三次之间翻转,22条reference-statement判断中有3条翻转;由于18条参考答案中14条只有一句话,recall在那些题上非0即1。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
待验证当只重复评判同一批保存的答案时,18题均值的标准差为0.021(faithfulness)到0.035(precision);重新生成答案后,faithfulness的标准差升至0.054,relevancy从0.002升至0.028。77% 相似待验证即使将法官的temperature设为0,三次评判相同的答案和chunks,precision的18题均值波动了0.085,faithfulness波动0.042,recall波动0.046,只有relevancy相对稳定在0.003。73% 相似待验证作为评判者的 LLM judge 提示词给几乎所有输出都打 7 分或 8 分,导致失去区分度71% 相似待验证换法官模型让recall移动0.31、faithfulness移动0.26,分别是各自门槛的三倍和接近两倍,说明法官模型的影响大于k参数。69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1065191API
curl https://kongchang.com/api/v1/knowledge/claims/1065191MCP
get_claim(id=1065191)