待验证50% 置信观点精确时间
由于LLM无法像传统程序那样严格区分“指令”与“数据”，提示注入难以靠单一过滤器根除，通常需要输入输出双向检测、权限最小化、工具调用白名单等纵深防御手段配合。
1
来源数
50%
置信度
长期有效
时效性
2026/10/25
首次发现
来源
涉及实体
相关事实
待验证意图识别不应在每次调用时都交给LLM处理，更合理的做法是构建一个轻量级分类器位于上游。74% 相似待验证基于过滤/检测的防御（如扫描'忽略之前的指令'短语）因结构性原因注定失败，因为自然语言没有区分指令与数据的语法74% 相似已验证提示词注入的根本原因在于LLM架构将系统提示、用户输入和外部检索内容统一编码为同一个连续的token序列，模型无法在语义层面区分可信指令与不可信数据73% 相似待验证LLM 生成的代码表面上往往命名规范、注释齐全、结构清晰，这可能降低审查者警惕性，使隐藏的逻辑缺陷或安全问题更难被发现72% 相似待验证若由LLM生成锁机制、内存管理或并发控制等关键代码段，则需引入更严格的多轮人工审查甚至形式化验证。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1095225API
curl https://kongchang.com/api/v1/knowledge/claims/1095225MCP
get_claim(id=1095225)