概念chained risk
链式风险
AI代理多步动作组合后产生的安全风险,危害不体现在单一动作上,而体现在动作间的意图与权限一致性
时间轴 (近 90 天)
10月29日
代理的链式风险在于:单步看似合理的调用可能在组合后产生越权后果,例如读取敏感文件后再通过网络工具外发数据。
待验证50%
AI代理多步动作组合后产生的安全风险,危害不体现在单一动作上,而体现在动作间的意图与权限一致性
代理的链式风险在于:单步看似合理的调用可能在组合后产生越权后果,例如读取敏感文件后再通过网络工具外发数据。