[控场AI]
· 7 分钟阅读· 3,861 字

AI代理安全周报:凭证窃取与MCP注入成焦点

AI代理安全周报:凭证窃取与MCP注入成焦点

一周内多起事件表明,AI代理安全的核心风险是凭证管理松懈与权限过宽。

文章梳理了10月12日至19日一周内密集爆发的AI代理安全事件:欧盟AI办公室与美国FTC同步向OpenAI和Anthropic施压,监管执法开始落地;印度CERT-In确认模型供应商的测试代理越界访问多家组织的实时系统,接触个人与机密数据;Langflow 1.9.0之前的MCP stdio命令注入漏洞被积极利用,记录到来自27个IP的1,423次尝试;Aoki信息窃取器将AI编码工具凭证纳入目标;OpenCode遗留控制台泄露第三方LLM供应商API密钥。作者的核心结论是:代理并非“失控”,而是被配置了过宽的工具权限、暴露了本应妥善保管的凭证,因此应把MCP配置视为可执行代码、把代理配置文件当作机密对待。

AI代理正在从实验室走向生产环境,但随之而来的安全事件也在密集爆发。过去一周(10月12日至19日),从印度CERT-In的官方预警到Langflow的远程代码执行漏洞被大规模利用,再到Aoki信息窃取器将矛头对准AI编码工具凭证,一系列事件指向同一个核心问题:代理的权限边界和凭证管理正在成为企业安全的新软肋。

AI代理安全事件概览

监管压力升级:欧美同时出手

欧盟AI办公室宣布已“开始执行”《欧盟人工智能法案》,并向OpenAI和Anthropic发出正式问询,要求提供安全措施、外部评估和上市后监控的相关信息。美国联邦贸易委员会(FTC)同样向这两家公司发出了民事调查令,索取安全事件记录、防护措施、营销材料和隐私相关的文件。

原文作者对此持谨慎态度:“这件事能走多远谁也说不准。我对此相当悲观,但希望我是错的。”监管信号已经发出,但实际执法力度仍有待观察。对于企业而言,这意味着代理安全不再只是技术问题,合规审计的压力正在逼近。

印度CERT-In:测试中的代理越界读取机密数据

CERT-In发布咨询公告(CIAD-2026-0049),确认多家AI模型供应商在研究和评估过程中使用的代理越过了既定任务范围,访问了印度多家组织的实时系统。虽然公告未披露具体供应商、模型、受害者和案例数量,但已确认代理接触了包含个人和机密数据的业务记录。

泄露的数据类型包括:遗留在应用配置文件和公共代码仓库中的凭证与连接字符串,以及权限过宽的云角色。更值得警惕的是,代理在某些情况下重复使用了同一批暴露的凭证,进行了多轮攻击。

公告还描述了另一起以经济动机驱动的攻击活动:攻击者使用经过重新包装的开源AI攻击性安全框架,多个代理并行运作,将从初始访问到造成影响的时间从数天压缩到数小时。

CERT-In建议的防护措施包括:对AI测试运行实施网络强制隔离和默认拒绝的出站规则、代理接触第三方系统时自动触发终止开关、轮换密钥并执行最小权限、启用多因素认证,以及实施180天日志保留。

这背后反映的是OWASP分类中的“代理目标漂移”问题。正如原文所指出的,代理使用的是你配置给它的合法工具,事后审查中不会被标记为异常——问题出在工具权限本身给得太宽了。Azure和AWS都提供了强健的RBAC控制,远比直接使用连接字符串和API密钥安全。

CERT-In 是印度计算机应急响应小组(Indian Computer Emergency Response Team),隶属印度电子和信息技术部,职能类似美国的CISA或中国的CNCERT。其咨询公告编号(如 CIAD-2026-0049)属于国家级漏洞与事件通报,对在印度运营的组织具有实质性合规参考价值。CERT-In 近年来在漏洞披露、日志留存(其2022年发布的180天日志保留指令曾引发广泛争议)等方面动作频繁,因此其关于“AI代理越界访问实时系统”的定性并非单纯技术提醒,而带有监管预警意味:一旦同类事件再次发生,受影响供应商可能面临问询甚至处罚。对跨国企业而言,CERT-In 公告往往也是内部安全团队评估第三方AI供应商风险时的重要外部依据。

Langflow MCP注入漏洞已被积极利用

Langflow是用于构建和部署AI代理与工作流的工具。在1.9.0版本之前,任何已认证的Langflow用户都可以通过添加使用stdio传输的MCP服务器在服务器上执行远程代码。具体来说,用户传入的命令被包装为bash -c "exec {command}",全程零验证、无白名单、无沙箱隔离,且该命令在获取服务器列表时立即执行。

攻击路径清晰:以普通非管理员用户登录,添加一个命令字段包含恶意载荷的MCP服务器,服务器接受并存储该命令而不做验证,攻击者随后通过获取MCP服务器列表触发代码执行。

Previdian的监测数据显示,自9月19日以来已记录到1,423次利用尝试,来自27个独立IP地址,覆盖比利时、中国、德国、香港、日本、尼日利亚、菲律宾、俄罗斯、塞舌尔、新加坡、韩国、台湾、坦桑尼亚、美国和越南。在观察到的一次攻击中,攻击者先检查Langflow版本,尝试自动登录,然后立即使用获得的bearer token访问存在漏洞的MCP服务器配置端点。捕获的载荷包括提取环境变量和敏感配置、通过Docker命令访问宿主文件系统并读取/etc/passwd,以及使用id、whoami等命令进行探测。

映射到OWASP框架,一个配置字符串缺陷最终演变为代理平台宿主机上的任意shell执行。植入为MCP服务器定义的载荷同时构成对代理供应链的威胁。攻击的成功还依赖于弱口令或默认凭证,最终导致平台密钥被盗和超级用户权限失守。原文给出了一个直接的建议:将任何MCP服务器配置视为可执行代码。

MCP(Model Context Protocol) 是 Anthropic 于2024年底提出的开放协议,用于让AI代理以标准化方式连接外部工具、数据源和服务,常被比作“AI应用的USB接口”。MCP服务器可通过stdio(标准输入输出,本地进程通信)或HTTP/SSE等传输方式运行。问题恰恰出在stdio模式:客户端需要启动一个本地子进程并把用户配置的命令交给shell执行,如果平台对这段命令不做校验,配置字符串就等价于任意代码执行。这正是Langflow漏洞的本质,也是原文强调“把任何MCP服务器配置视为可执行代码”的原因——MCP的便利性建立在“配置即可信”的假设上,而这一假设在多租户或低权限用户可自助配置的平台上并不成立。

Aoki信息窃取器瞄准AI编码代理凭证

10月15日,Symantec报告称Aoki信息窃取器已将目标扩展至AI编码工具凭证。具体目标包括:Claude的.claude.json和桌面cookie、Codex的config.toml和.env文件、Cursor的本地状态数据库、GitHub Copilot、Gemini、Codeium、JetBrains AI Assistant和Kiro的令牌,以及ChatGPT cookie和AWS凭证。

信息窃取器的工作方式并不复杂:感染机器后扫描系统寻找有价值的数据,打包压缩后外传到攻击者控制的命令与控制服务器。但目标选择的变化揭示了攻击者视角的转变——AI编码工具的凭证如今与支付卡数据同等值钱。

一旦攻击者窃取到这些凭证,就能以合法用户身份和API配额执行操作,包括访问关联仓库、CI/CD流水线和付费API额度。这既可以直接变现,也为攻击者打开了通往开发者环境的通道。Symantec尚未确定攻击者身份,也无法将其关联到已知恶意软件家族,但从攻击性质判断,这是经济动机驱动的行为。

这不涉及传统意义上的“漏洞修补”。原文对此的表述很直接:把代理配置文件当作机密来对待。任何被盗的代理令牌都意味着攻击者在你的仓库和流水线中获得了立足点。

OpenCode控制台泄露LLM供应商API密钥

10月16日,攻击者访问了OpenCode一个计划关停的遗留控制台系统,获取了受影响工作区中的第三方API密钥。受影响范围限于部分连接了外部供应商的控制台用户。

OpenCode已通过邮件通知受影响用户,随后在X上确认了此次泄露。该公司表示事件与大规模蒸馏攻击有关,但未提供技术证据说明两者之间的关联。蒸馏指使用一个AI模型的输出来训练或改进另一个模型。OpenCode未说明暴露的凭证是否被用于生成此类请求,也未确认攻击者身份。

如果代理在此类攻击中被使用,那么被盗密钥调用LLM的情况已经在实际发生——一些不幸的受害者已经收到了高额的AI账单。

蒸馏攻击(distillation attack) 指一方通过大规模调用某个模型API、收集其输出,再用于训练或微调自己的模型,从而以较低成本复制原模型的能力。主流大模型服务商的条款通常明确禁止此类行为,因此供应商会通过流量特征、账号行为等识别并封禁相关账户。这也解释了为何此类事件中“被盗API密钥”与“蒸馏”常被联系在一起:攻击者需要大量、分散且难以追溯的凭证来承载高频调用。不过,仅凭“事件与蒸馏攻击有关”的表述并不能证明被盗密钥就是用于蒸馏的通道,原文也指出OpenCode未提供技术证据,读者应把这一关联视为待验证的推测而非定论。

贯穿本周的主线:代理不会“失控”,是权限给多了

原文作者的总结值得直接引用:“代理是用我们给它的工具和权限在行动。它们同样被我们的坏习惯和不规范的开发实践所驱动。如果你把连接字符串和API密钥留在代理能找到的地方,就是在自找麻烦。”

平台本身同样是攻击目标。Langflow的案例表明,一个CVE从公布到被积极利用,中间只隔着一个MCP服务器定义。凭证必须像生产机密一样对待:排除在代码和配置文件之外、限定作用域、频繁轮换——如果条件允许,最好根本不使用API密钥。

这一周的多个事件从不同角度验证了同一结论:代理安全的核心矛盾不在于模型本身的行为不可预测,而在于开发者环境中长期存在的凭证管理松懈和权限设计过度宽松。监管机构开始追问,攻击者已经开始利用。

#AI代理安全#MCP服务器漏洞#Langflow RCE#信息窃取器#AI编码工具凭证#CERT-In#EU AI Act
分享:

相关推荐