待验证50% 置信事实精确时间

大语言模型本质上无法在结构层面区分系统指令与用户输入，使得注入攻击在技术上难以完全消除

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

20条敌意测试消息：上线前揪出AI客服的失败模式

涉及实体

大语言模型concept 提示词注入concept

相关事实

已验证由于大模型本身无法严格区分指令与数据，提示词注入从根本上很难被彻底消除77% 相似待验证LLM本质上无法从架构层面区分被处理的数据和应当执行的指令，这类攻击极难从模型本身彻底根除75% 相似待验证单纯依赖关键词过滤或规则引擎难以防御提示注入攻击，因为攻击载荷往往在语义层面伪装成合法指令，需要具备语言理解能力的模型才能有效甄别74% 相似待验证大语言模型没有真正的内省能力访问自己的执行轨迹，只能根据上下文和训练倾向重建一段看起来合理的叙述74% 相似待验证审核层与主模型不共享权重，理论上无法被同一个提示词攻击同时绕过73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1002883

API

curl https://kongchang.com/api/v1/knowledge/claims/1002883

MCP

get_claim(id=1002883)