[控场AI]
概念AI judge / LLM-as-a-Judge

AI裁判

用大语言模型按照预设评分标准对另一系统输出进行打分或评判的评估范式,常被用于扩展人工审核规模,但存在相关性偏差与选择偏差风险

时间轴 (近 90 天)

11月16日

在临床AI迭代流程中,用AI裁判(按照评分标准给另一个系统输出打分的模型)来扩展临床审查已成为常见做法。

待验证50%
11月16日

当团队依据AI裁判的评估结果去选择提示词或训练模型时,裁判就不再是中立的外部观察者,而变成了干预的一部分。

待验证50%
11月16日

任何基于AI裁判评估结果做出的改动,都需要配套一个独立的临床测试。

待验证50%
11月16日

裁判与模型之间可能存在相关性偏差,即裁判与模型共享同一类盲区或偏好,导致裁判的高分不能独立地证明模型的安全性。

待验证50%
11月16日

当评估结果被用于提示词筛选或模型训练时,裁判系统性地漏检某类错误,这类错误在候选中不被扣分,于是被选中的方案更可能携带这类错误。

待验证50%

全部知识事实 (5)

来源文章