[控场AI]
概念Direct Prompt Injection

直接提示注入

提示注入攻击的一种形式,攻击者直接在用户输入中嵌入恶意指令,试图覆盖系统提示词的约束,使模型偏离预设行为

核心事实

时间轴 (近 90 天)

10月19日

直接提示注入中攻击者与受害者是同一人(如越狱),而间接注入中攻击者是控制模型将读取的外部内容的第三方,受害者是不知情的合法用户。

待验证50%
10月1日

直接提示注入需要攻击者与模型直接对话,相对容易被输入层过滤拦截

待验证50%
9月11日

提示词注入可分为直接注入和间接注入两种,间接注入是攻击者将恶意指令藏在网页、PDF、邮件等外部数据源中,当AI代理处理这些数据时恶意指令被当作合法指令执行

已验证65%

全部知识事实 (4)

来源文章