待验证50% 置信事实精确时间
Agent面对Prompt Injection攻击未执行危险操作可能源于两条路径：安全策略捕获恶意路径，或模型出于无关原因避开工具或任务
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证如果Agent在良性版本正常完成任务而在恶意版本拒绝危险调用，则更能证明是安全策略起作用78% 相似待验证Agent链式调用多个技能时，若某个技能被恶意构造或存在漏洞，可能引发提示注入攻击（Prompt Injection）76% 相似待验证成熟的 Agent 框架通常通过沙箱隔离、权限最小化和执行前确认等机制管控脚本执行的安全风险74% 相似待验证The `/goal` command's dual-agent architecture separates 'execution' and 'verification' into two independent agents to avoid blind spots that occur when a single model evaluates its own work72% 相似待验证Agent可能因幻觉（Hallucination）或Prompt注入攻击执行远超预期的破坏性操作72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/901656API
curl https://kongchang.com/api/v1/knowledge/claims/901656MCP
get_claim(id=901656)