概念EAP
Edge Attribution Patching
Edge Attribution Patching,一种基于激活修补思路发展而来的因果归因技术,通过替换模型组件间信息传递路径的激活值并观察输出变化,量化各组件对任务输出的因果贡献,属于机制可解释性领域的核心工具。
时间轴 (近 90 天)
9月21日
该研究使用EAP(Edge Attribution Patching)来识别任务相关组件,如注意力头和logit层级激活
待验证50%
Edge Attribution Patching,一种基于激活修补思路发展而来的因果归因技术,通过替换模型组件间信息传递路径的激活值并观察输出变化,量化各组件对任务输出的因果贡献,属于机制可解释性领域的核心工具。
该研究使用EAP(Edge Attribution Patching)来识别任务相关组件,如注意力头和logit层级激活