待验证50% 置信事实精确时间
提示词注入的核心原理在于LLM无法从根本上区分系统指令和用户输入，因为Transformer架构的注意力机制对所有输入token一视同仁，系统提示词与用户输入的token在数学上处于同一向量空间
1
来源数
50%
置信度
长期有效
时效性
2026/8/13
首次发现
来源
相关事实
已验证基于Transformer的大语言模型使用注意力机制将系统提示、用户输入和外部检索内容统一编码为同质化的token序列，模型无法在语义层面区分可信指令与不可信数据78% 相似待验证提示词注入的根本原因在于LLM架构将系统提示、用户输入和外部检索内容统一编码为同一个连续的token序列，模型无法在语义层面区分可信指令与不可信数据77% 相似待验证提示注入攻击的根源在于LLM在推理时无法从语义层面可靠区分「系统指令」与「用户数据」，两者均以自然语言形式存在于同一上下文窗口中75% 相似已验证大语言模型的记忆本质上依赖于Transformer架构的注意力机制，其有效信息容量受限于上下文窗口的token数量74% 相似待验证自注意力本身对顺序不敏感，打乱词语顺序注意力权重计算结果相同，因此需要引入位置编码；原始Transformer论文使用正余弦函数编码71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/741045API
curl https://kongchang.com/api/v1/knowledge/claims/741045MCP
get_claim(id=741045)