待验证50% 置信事实精确时间

提示注入（Prompt Injection）的核心原理在于大语言模型无法可靠地区分用户的真实指令和内容中夹带的恶意指令

1

来源数

50%

置信度

长期有效

时效性

2026/8/16

首次发现

来源

AI助手险泄银行账单：提示注入攻击的真实案例与防范指南

相关事实

待验证Prompt Injection攻击难以防御的根本原因是语言模型无法区分系统指令和用户数据，因为它们都只是输入文本的一部分78% 相似待验证生产环境中用户可能输入含有歧义、错别字、多语言混合甚至恶意注入（Prompt Injection）的内容76% 相似已验证提示注入的根本原因在于大语言模型缺乏区分指令层与数据层的原生机制72% 相似待验证大语言模型在推理时无法可靠区分系统指令与用户/外部内容的边界，这是提示词注入的根本性局限，与SQL注入原理相似72% 相似待验证引入大语言模型赋予系统语义理解能力，可理解诈骗话术与系统警告在话术上的欺骗性差异69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/757408

API

curl https://kongchang.com/api/v1/knowledge/claims/757408

MCP

get_claim(id=757408)