[控场AI]
概念Excessive Agency

过度代理

AI Agent安全风险概念,指Agent被赋予超出完成任务所需的权限、能力或自主度,导致意外或有害副作用,已被OWASP列入LLM应用十大安全风险

时间轴 (近 90 天)

10月15日

OWASP的过度代理(Excessive Agency)指南建议限制工具能力和权限、应用最小权限原则、并对高影响操作要求人类审批。

待验证50%
10月12日

OWASP 的过度代理(excessive agency)指南提出了三条工程原则:最小权限、高影响动作需审批、对每个下游请求做授权。

待验证50%

全部知识事实 (2)

来源文章