[控场AI]
概念Lethal Trifecta

致命三要素

由安全研究者Simon Willison提出的AI智能体安全风险模型,指当智能体同时具备访问私有数据、接触不可信文本、具备对外发送数据途径三项能力时,极易被提示词注入攻击利用而造成数据泄露

核心事实

时间轴 (近 90 天)

10月17日

Simon Willison推广的“致命三要素”指出:当Agent同时具备可访问私有数据、暴露于不可信内容、拥有对外通信通道三者时,就可能被骗走数据。

部分验证65%
10月11日

安全的'致命三要素'是:访问私有数据、暴露于不可信token、以及存在数据外泄通道

待验证50%
10月8日

访问私有数据、接触不可信文本、对外发送数据途径三者单独存在都安全,组合在一起才构成漏洞

待验证50%
10月8日

若需三项能力全开,应拆分智能体:用隔离的、不带任何工具的模型处理不可信文本,具备权限的智能体永远看不到这些文本

待验证50%
10月8日

可靠的防御应是结构性的,即砍掉致命三要素中的一条腿;Willison认为数据外泄路径是最容易移除的一条腿

待验证50%
10月8日

安全研究者Simon Willison将同时具备访问私有数据、接触不可信文本、对外发送数据途径三项能力的风险模式命名为“致命三要素”(lethal trifecta)

已验证65%
9月25日

Simon Willison将提示注入风险根源概括为「致命三要素」:私有数据、不可信内容、对外通信,三者凑齐就会出事,破解之道是去掉其中一条

待验证50%

全部知识事实 (7)

来源文章