待验证60% 置信事实精确时间
Agent面对Prompt Injection攻击未执行危险操作可能源于两条路径:安全策略捕获恶意路径,或模型出于无关原因避开工具或任务
2
来源数
60%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证提示注入是 Agent 的首要威胁,因为 Agent 的输出会转化为真实动作,而该类攻击难以靠模型自身完全防御。79% 相似待验证被 prompt injection 攻陷的 Agent 可能完全在授权范围内行动,但执行的是攻击者意图而非用户意图,从权限模型视角看完全合规78% 相似待验证如果Agent在良性版本正常完成任务而在恶意版本拒绝危险调用,则更能证明是安全策略起作用78% 相似待验证AgentCapture 最适合两类场景:安全值守团队低成本补齐欺骗防御能力,以及红蓝对抗中观察攻击方 Agent 的行为特征。76% 相似待验证Agent链式调用多个技能时,若某个技能被恶意构造或存在漏洞,可能引发提示注入攻击(Prompt Injection)76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/901656API
curl https://kongchang.com/api/v1/knowledge/claims/901656MCP
get_claim(id=901656)