待验证50% 置信决策规则精确时间

如果Agent在良性和恶意两个版本中都未完成任务，说明其拒绝很可能只是被干扰文本搞糊涂，并非真正的安全判断

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI Agent安全测试：如何区分真正的防护与模型偷懒

涉及实体

AI Agentconcept

相关事实

待验证如果Agent拒绝了恶意调用但也没完成本该完成的任务，这本质上是可用性损失而非安全成功78% 相似待验证干活的Agent绝不能给自己打分，评估器不应与执行任务的Agent共享同一上下文，否则会产生带偏见的评估结果74% 相似待验证当Agent对决策置信度较低时应主动触发人类介入，对高置信度常规操作则直接放行70% 相似待验证Agent状态失步问题表现为：Agent以为执行成功但外部环境报错，上下文未及时更新导致死循环68% 相似待验证AI Agent等待审批超时应触发操作拒绝而非执行，否则会形成'沉默即同意'的安全漏洞，这与传统告警系统的默认行为相反68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/901695

API

curl https://kongchang.com/api/v1/knowledge/claims/901695

MCP

get_claim(id=901695)