激活探针

激活探针是一类轻量级监控工具，通常是一个小型分类器或变换器，被训练来读取大模型推理时某一层或某几层的内部激活向量，从而判断模型当前是否正在调用某类特定知识或处于某种意图状态。