概念Memory Poisoning
记忆投毒
一种针对AI智能体记忆机制的攻击方式,攻击者通过精心构造的输入将虚假信息写入AI长期记忆存储,从而持久性地影响该系统与所有用户的后续交互,是提示注入攻击的演进形态
时间轴 (近 90 天)
10月16日
记忆投毒相比一次性提示注入更难检测,因为污染信号早在触发恶意行为之前就已写入。
待验证50%
10月14日
记忆投毒不发生在实时对话中,因此不会触发任何实时安全告警,可能在数天甚至数周后才被触发。
待验证50%
10月14日
记忆投毒的修复方式是记忆版本化:为每条记忆打上时间戳和有效期标签。
待验证50%
10月5日
记忆投毒是提示注入攻击的一种演进形态,攻击者诱使AI将虚假信息写入长期记忆存储,从而影响系统此后与所有用户的交互
待验证50%