安全探针

一种LLM安全防御技术，通过读取模型内部隐藏层向量并训练轻量级线性分类器来检测恶意提示，不依赖模型输出而直接透视模型内部表征，用于在模型生成输出前拦截提示注入等攻击