[控场AI]
概念chained risk

链式风险

AI代理多步动作组合后产生的安全风险,危害不体现在单一动作上,而体现在动作间的意图与权限一致性

时间轴 (近 90 天)

10月29日

代理的链式风险在于:单步看似合理的调用可能在组合后产生越权后果,例如读取敏感文件后再通过网络工具外发数据。

待验证50%

全部知识事实 (1)

来源文章