[控场AI]
概念causal probes

因果探针

因果探针是一种改进的线性探针训练方法,通过将训练约束在激活空间的因果有效低维子空间内,同时提升模型steering(引导)能力并保持概念检测准确率

时间轴 (近 90 天)

10月7日

论文提出因果探针方法,将线性探针的训练限制在因果有效的低维子空间内

待验证50%
10月7日

因果探针在不同模型上实现了17%–118%的引导能力提升,而概念检测能力仅下降3%

待验证50%

全部知识事实 (2)

来源文章