待验证50% 置信注意事项精确时间
任何让指令和不可信数据共享同一上下文的场景（如提示注入、RAG、智能体）都存在模型可能遵循被告知要忽略信息的风险
1
来源数
50%
置信度
长期有效
时效性
2026/10/2
首次发现
来源
涉及实体
相关事实
待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改74% 相似待验证在涉及检索增强（RAG）、工具调用和多步推理的LLM智能体系统中，一次微小的提示词修改可能让原本暴露的风险路径消失73% 相似待验证捕获异常后应将错误信息原封不动返回给大模型而非静默吞掉，使模型能够自我反思、调整格式并重试，提升 Agent 鲁棒性71% 相似已验证间接提示注入将攻击指令藏匿于模型检索的外部文档、网页或数据库记录中，当RAG系统引入上下文时激活71% 相似待验证针对特定触发词的后门攻击可让模型在大多数情况下表现正常，仅在遇到特定输入时才输出预设错误信息，使常规评测基准难以捕捉71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/968651API
curl https://kongchang.com/api/v1/knowledge/claims/968651MCP
get_claim(id=968651)