概念causal probes
因果探针
因果探针是一种改进的线性探针训练方法,通过将训练约束在激活空间的因果有效低维子空间内,同时提升模型steering(引导)能力并保持概念检测准确率
时间轴 (近 90 天)
10月7日
论文提出因果探针方法,将线性探针的训练限制在因果有效的低维子空间内
待验证50%
10月7日
因果探针在不同模型上实现了17%–118%的引导能力提升,而概念检测能力仅下降3%
待验证50%
因果探针是一种改进的线性探针训练方法,通过将训练约束在激活空间的因果有效低维子空间内,同时提升模型steering(引导)能力并保持概念检测准确率
论文提出因果探针方法,将线性探针的训练限制在因果有效的低维子空间内
因果探针在不同模型上实现了17%–118%的引导能力提升,而概念检测能力仅下降3%