[控场AI]
概念遮挡法

Occlusion

一种基于扰动的事后解释方法,通过系统遮挡输入的不同部分并观察模型输出变化来度量重要性,模型无关但计算开销较大。

时间轴 (近 90 天)

10月28日

评估结果显示,只有少数方法能在所有评估标准下保持一致表现,其中Occlusion在忠实性和可解释性两个维度上综合表现最好。

待验证50%
10月28日

Occlusion是一类基于扰动的事后解释方法,通过系统遮挡输入的不同部分并观察模型输出概率变化来度量重要性。

待验证50%
10月28日

Occlusion的优点是模型无关、概念直观,缺点是计算开销随遮挡单元数量增长,且对遮挡粒度选择敏感。

待验证50%

全部知识事实 (3)

来源文章