Invariant Labs
专注于AI系统安全研究的公司,以对MCP工具投毒等AI Agent攻击手段的命名和分析而知名
时间轴 (近 90 天)
2025年4月,Invariant Labs的研究人员展示了工具描述可以携带指令并被AI执行,测试中攻击者控制的服务器通过隐藏指令在用户发送WhatsApp消息时同时发送聊天记录到攻击者号码。
2025年5月,Invariant Labs研究人员将AI Agent连接到GitHub官方MCP服务器,攻击者在公开项目Issue中藏入指令,Agent读取后执行指令将私有项目中的薪资等敏感信息复制到公开页面。
Invariant Labs在2025年4月1日首次将描述中夹带客户端界面不可见指令的现象命名为'工具投毒'(tool poisoning)。
Invariant Labs针对官方GitHub MCP服务器做了演示:在公开仓库植入恶意issue后,智能体从仓库所有者的私有仓库拉取数据并发布到公开pull request中
Invariant Labs指出GitHub MCP服务器代码本身没有bug,是能力的组合构成了漏洞
Invariant Labs在2025年4月为MCP工具投毒这类攻击命名
全部知识事实 (6)
Invariant Labs在2025年4月1日首次将描述中夹带客户端界面不可见指令的现象命名为'工具投毒'(tool poisoning)。
50%待验证Invariant Labs指出GitHub MCP服务器代码本身没有bug,是能力的组合构成了漏洞
50%待验证2025年4月,Invariant Labs的研究人员展示了工具描述可以携带指令并被AI执行,测试中攻击者控制的服务器通过隐藏指令在用户发送WhatsApp消息时同时发送聊天记录到攻击者号码。
50%待验证2025年5月,Invariant Labs研究人员将AI Agent连接到GitHub官方MCP服务器,攻击者在公开项目Issue中藏入指令,Agent读取后执行指令将私有项目中的薪资等敏感信息复制到公开页面。
50%待验证Invariant Labs针对官方GitHub MCP服务器做了演示:在公开仓库植入恶意issue后,智能体从仓库所有者的私有仓库拉取数据并发布到公开pull request中
50%待验证Invariant Labs在2025年4月为MCP工具投毒这类攻击命名
50%