[控场AI]
概念causal activation patching

因果激活修补

神经网络可解释性技术,通过将某一层的激活值替换为另一条输入下的激活值,直接测试该层是否在因果链条上对最终输出负责

来源文章