待验证50% 置信事实精确时间

LLM在架构层面无法区分可信指令和不可信输入，因为其将系统指令和用户输入作为同一个文本序列处理，类似参数化查询的纯技术解决方案至今尚未出现

1

来源数

50%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

无需本地部署LLM：系统性研究与测试AI护栏的完整方法

涉及实体

LLMconcept 提示注入concept

相关事实

待验证LLM无法从结构层面区分指令与数据，因为两者都以自然语言形式存在于同一上下文窗口中78% 相似已验证提示词注入的根本原因在于LLM架构将系统提示、用户输入和外部检索内容统一编码为同一个连续的token序列，模型无法在语义层面区分可信指令与不可信数据76% 相似待验证提示注入攻击的根源在于LLM在推理时无法从语义层面可靠区分「系统指令」与「用户数据」，两者均以自然语言形式存在于同一上下文窗口中75% 相似待验证LLM是强大的语言理解与生成工具，但不应被默认当作确定性的计算与执行系统74% 相似待验证LLM处理的是token（词元）而非单个字符，导致在字符计数任务上存在天然缺陷73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/829746

API

curl https://kongchang.com/api/v1/knowledge/claims/829746

MCP

get_claim(id=829746)