概念indirect prompt injection / 间接注入
间接prompt注入
一种AI安全攻击方式，恶意指令不来自用户直接输入，而是隐藏在agent会读取的外部内容（网页、PDF、数据库字段、工具返回的JSON）中，被模型误当指令执行
时间轴 (近 90 天)
10月13日
间接prompt注入的恶意指令藏在agent会读取的外部内容（网页、PDF、数据库字段、工具返回的JSON）中，传统在用户输入处做过滤的做法对此无效，有效拦截点是在工具结果进入上下文之前检查。
待验证50%
一种AI安全攻击方式，恶意指令不来自用户直接输入，而是隐藏在agent会读取的外部内容（网页、PDF、数据库字段、工具返回的JSON）中，被模型误当指令执行
间接prompt注入的恶意指令藏在agent会读取的外部内容（网页、PDF、数据库字段、工具返回的JSON）中，传统在用户输入处做过滤的做法对此无效，有效拦截点是在工具结果进入上下文之前检查。