概念Instruction Detection
指令检测
一种AI代理安全防御技术,在检索内容进入模型上下文前识别疑似命令式语句、越权请求或异常外泄目标,通常结合规则匹配与分类模型,并保留人工复核通道。
时间轴 (近 90 天)
11月6日
指令检测是在检索内容进入上下文前识别疑似命令式语句、越权请求或异常外泄目标,可采用规则匹配与分类模型结合的方式,并保留人工复核通道。
待验证50%
11月6日
内容来源信任分级和指令检测只能降低风险而非彻底消除,需要与最小权限和行为监控组合使用,形成纵深防御。
待验证50%
11月6日
生产环境防御需覆盖内容检索后环节,包括指令检测、权限限制和行为监控。
待验证50%