[控场AI]
概念算法审计 / algorithm auditing

LLM审计

一种评估LLM系统的方法论,通过控制变量输入(如用户画像)观察输出偏移,检测模型潜在的不公平或质量问题,区别于传统基准测试的单一分数评价。

时间轴 (近 90 天)

11月10日

反事实干预源自因果推断方法论,在LLM审计中表现为构造一对仅在某个属性上不同的输入并比较模型输出差异,以判断该属性是否是结果的成因。

待验证50%
11月8日

道德基础理论及其测量工具源于对人类道德心理的研究,迁移到模型输出时其适用性仍需检验。

待验证50%
11月2日

LLM审计方法借鉴自社会科学中的审计研究传统,通过输入受控的、仅在特定属性上不同的查询,观察输出是否系统性变化。

待验证50%
11月2日

由于画像属性往往捆绑变化,审计设计难以干净地分离单一因素的独立效应。

待验证50%

全部知识事实 (4)

来源文章