概念causal tracing
因果追踪
可解释性研究技术,通过追踪神经网络内部因果路径来定位特定功能所依赖的内部结构
时间轴 (近 90 天)
11月11日
解决尺度问题需要明确不同分析层级之间的映射关系,例如通过消融(ablation)、激活修补(activation patching)或因果追踪(causal tracing)等手段验证局部发现在全模型行为中的稳健性。
待验证50%
10月16日
因果干预的核心工具是激活替换(activation patching)与因果追踪(causal tracing),该方法已在事实回忆、句法处理等任务中验证有效,此处被首次系统应用于低资源翻译的电路定位。
待验证50%
8月26日
Anthropic、DeepMind等机构近年来大量采用激活补丁类方法研究大模型内部电路,形成了因果追踪方法论
待验证50%