[控场AI]
概念Memory Poisoning

记忆投毒

一种针对AI智能体记忆机制的攻击方式,攻击者通过精心构造的输入将虚假信息写入AI长期记忆存储,从而持久性地影响该系统与所有用户的后续交互,是提示注入攻击的演进形态

时间轴 (近 90 天)

10月16日

记忆投毒相比一次性提示注入更难检测,因为污染信号早在触发恶意行为之前就已写入。

待验证50%
10月14日

记忆投毒不发生在实时对话中,因此不会触发任何实时安全告警,可能在数天甚至数周后才被触发。

待验证50%
10月14日

记忆投毒的修复方式是记忆版本化:为每条记忆打上时间戳和有效期标签。

待验证50%
10月5日

记忆投毒是提示注入攻击的一种演进形态,攻击者诱使AI将虚假信息写入长期记忆存储,从而影响系统此后与所有用户的交互

待验证50%

全部知识事实 (4)

来源文章