[控场AI]
概念Indirect Prompt Injection

间接提示词注入

一种AI安全攻击方式,将恶意指令藏匿在模型会主动读取的第三方内容中(如网页、文档、邮件或图片),当AI代理自动抓取并处理这些内容时,嵌入其中的恶意指令被模型当作合法上下文执行

核心事实

时间轴 (近 90 天)

10月12日

间接提示注入将攻击向量藏在模型读取的外部文档或网页中,用户本人并不知情

待验证50%
10月4日

若智能体持有支付API密钥,间接提示词注入或逻辑死循环可能导致无限大的财务爆炸半径

待验证50%
9月27日

OWASP将提示词注入列为大模型应用十大风险之首

已验证65%
9月23日

间接提示注入是指攻击者将恶意指令预先埋入第三方内容(如网页、PDF文档、API响应),待RAG系统检索或工具调用将这些内容拉入上下文后模型执行指令

已验证65%

全部知识事实 (5)

来源文章