[控场AI]
概念Contrastive Activation Probing

对比激活探测

一种用于检测语言模型中潜在行为耦合的安全技术,通过对比模型在微调前后的激活方向变化来识别可能被放大的有害行为路径。

时间轴 (近 90 天)

10月19日

论文作者建议将对比方向探测集成到DevSecOps制品验证管线中,比较基础模型与微调模型在探测提示下中间层激活的方向性偏差,而非只看输出行为。

待验证50%
10月19日

对比激活探测使用余弦相似度衡量基础模型与微调模型在相同探测提示下中间层激活的方向偏差,相似度越低表示漂移越大。

待验证50%

全部知识事实 (2)

来源文章