概念activation probing
激活探测
通过分析模型内部激活模式来探测模型状态或属性的方法。
时间轴 (近 90 天)
10月19日
在 FaithCoT-Bench 和 BonaFide 的四个数据集上，VERITAS 的平衡准确率比激活探测平均提升 16.0%。
待验证50%
10月19日
激活探测是在模型某一层或几层的激活上训练线性分类器预测忠实度，属于静态、单点式检测，难以捕捉层间动态。
待验证50%
通过分析模型内部激活模式来探测模型状态或属性的方法。
在 FaithCoT-Bench 和 BonaFide 的四个数据集上，VERITAS 的平衡准确率比激活探测平均提升 16.0%。
激活探测是在模型某一层或几层的激活上训练线性分类器预测忠实度，属于静态、单点式检测，难以捕捉层间动态。