待验证50% 置信注意事项精确时间
Agent可能因幻觉（Hallucination）或Prompt注入攻击执行远超预期的破坏性操作
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
已验证提示注入（Prompt Injection）攻击者可通过构造特殊输入诱导Agent执行非预期操作76% 相似待验证Agent中的幻觉会直接变成错误的动作，包括调用不存在的工具、编造文件内容、虚构错误信息并据此执行后续操作75% 相似待验证Agent链式调用多个技能时，若某个技能被恶意构造或存在漏洞，可能引发提示注入攻击（Prompt Injection）73% 相似已验证提示注入攻击（Prompt Injection）是本地AI Agent面临的严峻威胁，Agent在处理用户文件时可能被恶意构造的内容诱导执行危险操作72% 相似待验证Agent具备感知-推理-行动的闭环能力，能处理模糊输入和未预见的情况，这是规则引擎无法胜任的68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/898346API
curl https://kongchang.com/api/v1/knowledge/claims/898346MCP
get_claim(id=898346)