待验证50% 置信事实精确时间
即使将法官的temperature设为0,三次评判相同的答案和chunks,precision的18题均值波动了0.085,faithfulness波动0.042,recall波动0.046,只有relevancy相对稳定在0.003。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
待验证当只重复评判同一批保存的答案时,18题均值的标准差为0.021(faithfulness)到0.035(precision);重新生成答案后,faithfulness的标准差升至0.054,relevancy从0.002升至0.028。76% 相似待验证Faithfulness指标中,法官对同一段答案拆出的claim数量会变化(例如一条答案三次分别被拆成5、10、11条),导致分母变动从而分数波动;Precision和recall由yes/no判断构成,148条chunk判断中有5条在三次之间翻转,22条reference-statement判断中有3条翻转;由于18条参考答案中14条只有一句话,recall在那些题上非0即1。73% 相似待验证在示例中,对同一组人类标签(18通过、2失败),懒惰评判者全判通过得到准确率 0.90 但 kappa 为 0.00;更好的评判者准确率 0.95 但 kappa 仅为 0.77,仍未达到 0.80 门槛。67% 相似待验证在只有5%输出失败的情况下,一个全部判通过的评审器与专家的一致率高达95%,但召回率为零,这被称为“一致率悖论”。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1065190API
curl https://kongchang.com/api/v1/knowledge/claims/1065190MCP
get_claim(id=1065190)