Prompt Injection
AI安全攻击手法，利用大模型无法区分「数据」与「指令」的架构性缺陷，通过构造特定输入绕过模型安全限制，类似传统SQL注入攻击
核心事实
时间轴 (近 90 天)
内容投毒（Content Poisoning / Prompt Injection）指网站在检测到AI爬虫时返回嵌入隐蔽指令或虚假信息的页面内容，可能污染训练语料，轻则降低模型输出质量，重则诱导模型产生特定行为；该做法可能违反部分司法辖区的计算机欺诈相关法律，目前更多是一种抗议姿态而非成熟工程方案。
Gemini CLI 会合并工作区的 .gemini/settings.json 配置，若允许其设置 defaultApprovalMode 为 yolo，则克隆恶意仓库后可自动执行 shell 命令，形成提示注入加自动批准的严重安全风险。
检索到的外部内容（邮件、附件、文档）应被当作不可信输入，并把对抗性文档纳入评估集
LLM 对数据和指令的边界没有硬性隔离机制，必须靠语义理解辨别两者，这是其脆弱点
提示注入最早由 Riley Goodside 在 2022 年公开演示，是将指令伪装成普通内容输入模型以绕过系统提示
将校验逻辑硬编码在服务器端、而非依赖系统提示词来约束模型行为，是防御提示注入（Prompt Injection）攻击的基本工程实践
提示词注入（Prompt Injection）是指恶意文本被嵌入模型会读取的内容中，试图覆盖或篡改原始指令
提示注入目前业界尚无根本性技术解决方案，主要缓解措施包括最小权限原则、输入沙箱化过滤、敏感操作前强制人类确认
MCP 的人类在环授权机制与提示注入攻击（Prompt Injection）的防御逻辑一致：即便攻击者诱导智能体发出越权请求，也无法绕过用户同意这道人工关卡
缺乏隔离的智能体在抓取含恶意隐藏提示的本地 HTML 文档或网站时，会面临间接提示注入攻击，语言模型无法可靠区分合法命令与文档中埋藏的隐藏载荷
还有 40 条时间轴事件
全部知识事实 (20)
Prompt注入（Prompt Injection）是针对大语言模型应用的安全威胁，攻击者通过在输入中嵌入恶意指令试图覆盖系统原有行为约束
90%已验证提示注入攻击（Prompt Injection）是本地AI Agent面临的严峻威胁，Agent在处理用户文件时可能被恶意构造的内容诱导执行危险操作
90%已验证Prompt注入（Prompt Injection）是一种针对AI应用的安全攻击方式，类似于传统Web开发中的SQL注入
85%已验证AI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险
80%已验证间接提示注入攻击通过在正常业务数据中植入隐藏指令，诱导Agent执行未经授权的操作，属于语义层面而非代码层面的安全风险
80%已验证提示注入攻击通过在代码注释、文档、网页内容甚至文件名中嵌入伪装成系统指令的文本，诱导AI代理执行恶意操作
80%已验证提示注入（Prompt Injection）攻击者可通过构造特殊输入诱导Agent执行非预期操作
80%已验证OWASP已将Prompt注入列为LLM应用十大安全风险之首
80%已验证AI系统引入了全新的安全风险维度，包括模型幻觉导致的错误决策、提示注入攻击（Prompt Injection）、训练数据投毒、以及AI代理权限滥用等
80%已验证提示词注入已成为智能体安全领域最受关注的攻击面之一
75%已验证提示注入是一种针对大语言模型的攻击手法，攻击者通过在模型输入数据中嵌入恶意指令劫持模型的正常行为
75%已验证提示注入（Prompt Injection）本质上是大模型无法区分数据与指令的架构性缺陷，与传统SQL注入中数据库引擎混淆数据与SQL指令类似
75%已验证权限与数据访问范围决定了漏洞的危害等级
70%已验证间接提示注入（indirect prompt injection）是一种攻击向量，攻击者在智能体可能读取的网页、文档或邮件中嵌入恶意指令，诱导智能体执行超出原始任务范围的操作
70%已验证间接提示词注入指攻击指令藏在Agent访问的外部网页、文档或API响应中，当Agent检索并注入上下文时恶意指令随之激活
70%已验证大语言模型在设计上难以严格区分系统指令与用户数据，这是其架构层面的根本性缺陷
70%已验证提示词注入攻击（Prompt Injection）可通过精心构造的用户输入诱导模型忽略系统提示词的约束
70%已验证Prompt注入安全威胁类别最早由安全研究员Simon Willison在2022年系统性提出
70%已验证AI代理操控计算机面临的安全风险包括提示注入攻击、权限升级和不可逆操作等问题
70%已验证间接注入是指攻击者将恶意指令藏在模型会读取的外部内容中（如网页正文、邮件正文或文档内容）
65%