[控场AI]
概念causal tracing

因果追踪

可解释性研究技术,通过追踪神经网络内部因果路径来定位特定功能所依赖的内部结构

时间轴 (近 90 天)

11月11日

解决尺度问题需要明确不同分析层级之间的映射关系,例如通过消融(ablation)、激活修补(activation patching)或因果追踪(causal tracing)等手段验证局部发现在全模型行为中的稳健性。

待验证50%
10月16日

因果干预的核心工具是激活替换(activation patching)与因果追踪(causal tracing),该方法已在事实回忆、句法处理等任务中验证有效,此处被首次系统应用于低资源翻译的电路定位。

待验证50%
8月26日

Anthropic、DeepMind等机构近年来大量采用激活补丁类方法研究大模型内部电路,形成了因果追踪方法论

待验证50%

全部知识事实 (3)

来源文章