待验证50% 置信事实精确时间
提示词注入攻击利用了大语言模型无法严格区分指令与数据的根本局限
1
来源数
50%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证提示注入攻击的根源在于LLM在推理时无法从语义层面可靠区分「系统指令」与「用户数据」，两者均以自然语言形式存在于同一上下文窗口中80% 相似已验证提示词注入（Prompt Injection）的根本原因在于大模型无法从结构上区分「系统指令」和「用户数据」，二者在输入时都以自然语言文本形式呈现78% 相似待验证分类器对请求措辞高度敏感，直接让模型去找漏洞容易被拦截并路由，换用更中性的编程语言描述同样任务往往不会触发限制73% 相似待验证提示词注入的根本原因在于LLM架构将系统提示、用户输入和外部检索内容统一编码为同一个连续的token序列，模型无法在语义层面区分可信指令与不可信数据71% 相似待验证意图识别系统能力边界由人工编写规则决定，扩展性有限，而大语言模型通过海量文本预训练能处理未明确编程的新任务，实现从规则驱动到数据驱动的范式转变70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/527062API
curl https://kongchang.com/api/v1/knowledge/claims/527062MCP
get_claim(id=527062)