[控场AI]
概念Prompt Injection / 间接提示注入 / Indirect Prompt Injection

提示注入攻击

一种针对LLM的安全攻击手段,攻击者在输入或外部内容中嵌入伪装成系统指令的文本,覆盖或篡改原始系统提示词,劫持模型行为,类比传统SQL注入攻击

来源文章