[控场AI]
概念Confused Deputy Problem / 混淆代理问题

混淆代理人攻击

计算机安全领域的经典攻击模式,指拥有高权限的代理人被低权限调用者利用,执行超出调用者权限范围的操作,在AI Agent架构中因自然语言边界模糊而攻击面扩大

来源文章