[控场AI]
概念Testing with Concept Activation Vectors

TCAV

一种基于概念的模型可解释性方法,通过在神经网络中间层激活空间训练线性分类器(概念激活向量)来量化人类可理解概念对模型预测结果的影响

时间轴 (近 90 天)

10月12日

TCAV(Testing with Concept Activation Vectors)通过在模型中间层的激活空间中训练线性分类器来量化某个概念对预测结果的影响

待验证50%
10月12日

ACE、ConceptSHAP等方法在TCAV基础上进行了扩展,但都保留了需要访问模型内部的前提

待验证50%
9月11日

研究者将SHAP识别出的关键特征转化为TCAV(概念激活向量测试)的概念集,用来探测多语种XLM-R模型及各语言专用编码器

待验证50%

全部知识事实 (3)

来源文章