待验证50% 置信观点精确时间
在Agent系统中，Agent所拥有的工具权限直接决定了被误导或产生意外行为时的爆炸半径
1
来源数
50%
置信度
长期有效
时效性
2026/10/10
首次发现
来源
涉及实体
相关事实
待验证如果Agent在良性版本正常完成任务而在恶意版本拒绝危险调用，则更能证明是安全策略起作用73% 相似已验证授权Agent操作高风险操作时应设置人工确认环节，由Agent提出方案、人类保留最终执行权（人在回路机制）72% 相似待验证评估Agent能力的两个关键维度是模型能在无输入下运行多久，以及人再次介入时任务已经正确的概率有多高71% 相似待验证攻击者通过提示词注入控制Agent的决策逻辑后，可利用Agent已获授权的所有工具和接口实现全链路攻击，形成混淆代理人（Confused Deputy）问题71% 相似待验证模型调用技能带有一段description，会进入Agent的上下文中，Agent可自行判断是否调用该技能71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/993583API
curl https://kongchang.com/api/v1/knowledge/claims/993583MCP
get_claim(id=993583)