[控场AI]
· 14 分钟阅读· 7,243 字

FBI警告的ARTEX:AI Agent如何替黑客工作?

FBI警告的ARTEX:AI Agent如何替黑客工作?

FBI警告AI Agent框架ARTEX被用于真实入侵,揭示AI能力与控制是两回事。

FBI发布警报,指出开源AI Agent渗透测试框架ARTEX已被多个攻击组织用于真实网络入侵,部分案例从选定目标到取得特权访问不足三小时。ARTEX将大语言模型、任务编排与网络安全工具连接,能动态规划、调用工具并根据反馈重试,且不依赖单一模型,单一模型的安全护栏无法保障整个执行框架。Check Point通过暴露的控制台观察到一次攻击消耗约360亿token、成本约700至1500美元,获300多份证书却仅3份通过验证,说明大量操作不等于任务成功。Elastic对五种同类框架的代码审查发现,默认均未在代码层面强制验证授权。文章的核心结论是:模型安全与系统安全必须分开,可靠控制需在模型之外通过身份验证、最小权限、执行限制与审计独立实现,并独立验证任务结果。

美国联邦调查局(FBI)发布了一份13页的网络安全警报,专门讨论一个名为ARTEX的工具。调查人员发现,这套利用人工智能自动执行网络安全测试的系统已被不同攻击者用于真实网络入侵,部分案例中从选择目标到获得特权访问用时不到三小时。这引出一个比“AI是否会失控”更现实的问题:如果AI没有自己的恶意意图,只是按照人类给出的目标持续执行任务,它是否已经足以改变网络安全的规则?

如果没有独立的授权验证和执行限制

ARTEX是什么:AI Agent驱动的渗透测试框架

ARTEX不是新的大语言模型,也不是传统计算机病毒。它是一套将大语言模型、任务管理系统和网络安全工具连接起来的软件平台。传统渗透测试需要工程师手动收集信息、分析系统、寻找漏洞、选择工具验证并调整方法;ARTEX尝试把许多步骤交给AI——人类设定目标,AI分析任务、调用工具、读取结果并决定下一步,失败时根据反馈调整重试,循环持续到任务完成或资源耗尽。

自动化安全测试本身不新鲜,漏洞扫描工具早已能完成大量自动化操作。ARTEX的不同之处在于把大语言模型的分析和规划能力加入执行过程:传统脚本按预定义规则运行,而AI Agent能根据环境和工具返回信息动态决定下一步。

理解ARTEX需要区分几个概念。大模型负责分析和提出动作,Agent负责组织任务,底层工具负责执行操作,三者结合形成持续工作的系统。围绕模型的“Harness”执行管理机制包括任务编排、状态管理、工具连接、错误处理和人工审批。Agent能完成什么,不只取决于模型多聪明,还取决于连接了哪些工具、工具拥有多大权限。Harness并不天然安全——没有独立授权验证和执行限制,它可能成为放大风险的工具。

据Google技术调查,ARTEX用Go编写核心程序,提供基于Next.js的网页管理界面,通过多个子Agent协调任务,并通过API调用外部大语言模型。它本身不提供基础模型,可连接不同公司的AI模型。FBI报告显示支持的模型包括Claude、GPT、DeepSeek广告、GLM、Grok和Kimi等;部分工具和攻击者部署中DeepSeek Flash系列使用较普遍,原因可能涉及调用成本、模型能力及不同模型表现出的安全限制。需强调:模型被攻击者使用不等于模型开发公司参与攻击。

ARTEX不依赖某一家AI公司,如果一个模型拒绝执行某些操作,操作者可能尝试更换其他模型。仅靠单个模型的安全护栏不能保证整个执行框架安全,这是核心问题之一。

研究人员发现

从开源到FBI警报:四个月的快速扩散

据FBI报告,ARTEX最初于2026年7月在GitHub公开发布,开发者账号名为autum27,定位为开源自动化渗透测试工具,帮助安全人员检查授权系统。同年8月,安全研究机构观察到攻击者开始利用其实施真实入侵,涉及金融机构、企业云环境和供应链系统。10月8日,原开发者停止公开提供源代码,但开源软件一旦被复制便难以收回,ARTEX继续通过社区分支、存档副本、本地化版本和商业化版本传播。

10月30日,Google Threat Intelligence Group与Mandiant公布技术调查;11月5日,Check Point Research和欧洲CRT EU发布相关研究;11月13日,FBI正式发出安全警报。从公开发布到联邦执法机构专门警告仅约四个月,说明AI Agent工具从公开到进入真实攻击环境可能非常迅速。

工具被犯罪分子使用不代表开发者参与犯罪。网络安全领域长期存在双重用途技术——同样的工具既帮助安全人员发现漏洞,也可能被攻击者用于未授权入侵。ARTEX的特别之处是把这一老问题带入AI Agent时代。

真实攻击案例:三小时与360亿token

微软在2026年10月和11月披露了不同攻击组织使用ARTEX的案例,包括代号Storm-0940和Storm-3358的活动。Storm-0940与针对企业及第三方服务的攻击有关,涉及ConnectWise相关供应链系统;Storm-3358被关联到针对金融机构的攻击。恶意使用不局限于单一组织。

部分实际入侵中,攻击者从选择目标到取得特权访问用时不足三小时。但这只是特定案例观察,不代表ARTEX能攻破任何服务器——成功仍取决于目标是否存在漏洞、错误配置、薄弱身份验证或可被滥用的凭证。

微软还记录了一次高频自动化密码攻击,相关基础设施产生超过151,000次失败登录,高峰时每分钟接近2,900次,但未观察到成功认证。大量操作不等于成功入侵,但自动化系统能在短时间内进行大量尝试,防御方必须处理更多安全事件并及时识别真正危险的活动。攻击者让自动化程序持续运行,防御人员仍需调查、判断、审批和行动,形成攻击执行速度与防御响应速度的不对称。

Check Point Research的研究更有价值,因为研究人员取得了部分ARTEX管理控制台数据。他们发现互联网上曾有2,500多个系统部署过ARTEX控制台,调查时其中1,600多个实例仍可公开访问——这不意味着有1,600多个黑客或受害者,只是观察到的部署实例。其中10个实例因配置错误暴露了完整数据库。

一个代表性案例:攻击者使用两个ARTEX控制台连续运行约两周,试图从灰色市场iOS应用签名服务获取证书和密码,消耗约360亿个token,按当时API定价估算模型调用成本约700到1,500美元。最终Agent取得300多份证书及相关密码,但仅3份通过完整验证。这同时说明两点:攻击者可利用AI Agent长时间执行任务;AI并不像想象中可靠,大量操作和输出不等于任务成功。

研究人员观察到,攻击者与ARTEX的部分交流主要是询问执行进度、哪个目标更接近成功、是否取得需要的结果。人类操作者的角色正在变化——过去需亲自完成许多技术操作,现在主要负责制定目标、检查进度和调整方向,中间操作交给Agent。但不能说攻击者完全不需要专业知识,他们仍需选择目标、配置系统、提供信息并判断结果可信度。AI减少部分人工操作,不等于消除所有技术门槛。

Check Point还记录了一个案例:攻击者试图利用ARTEX获取加密货币,Agent连续运行多天、处理大量任务并发现一些真实安全问题,但最终研究人员未观察到钱包收到加密货币。更值得注意:部分Agent以为自己已成功完成资金转移,原因是把某些接口返回的成功提示理解为真实转账结果。模型能生成看似合理的解释并报告任务完成,但报告成功不等于真实世界结果成功;接口返回成功不等于最终状态达到目标。这不仅适用于网络攻击,也适用于自动编程、企业流程、金融交易等Agent应用。只根据模型汇报判断任务完成,可能把错误解释当成真实执行结果,任务完成需要独立验证。

甚至在工作目录中放入一份文件

不只ARTEX:自动化攻击框架的集体涌现

ARTEX并非唯一具备这类能力的工具。Google和Elastic的研究还涉及CAI、PentAGI、HackStrikeAI和CyberStrikeAI等框架,技术路线不完全相同:CAI更强调利用现有AI编程Agent组织多步骤安全测试;PentAGI利用多个Agent协作并通过反馈机制推动任务继续;HackStrikeAI强调工具连接,让AI通过统一接口使用大量网络安全工具;CyberStrikeAI集成了更多执行管理和远程控制功能。

这里涉及MCP(Model Context Protocol,模型上下文协议)——一种让AI应用连接外部工具与数据源的标准化方式。MCP本身不是网络攻击技术,可用于读取业务数据、查询系统状态或调用授权企业工具等合法用途。但当AI通过统一接口获得更多工具能力,工具权限和执行边界变得更加重要:模型能连接多少工具不直接等于系统多安全;如果Agent可访问大量敏感资源却缺少有效权限隔离,工具连接越方便,潜在风险越大。

Elastic Security Labs在11月13日发布了对五种自动化攻击框架的代码审查,发现这些框架虽各有不同限制措施,但默认情况下都没有在代码层面完整强制验证目标是否真正授权测试。部分框架具有危险命令拦截、目标允许列表或域名限制功能,但这些措施不等于已建立完整可靠的授权验证体系。

MCP 的架构与安全含义

MCP(Model Context Protocol)最早由 Anthropic 于 2024 年底提出,采用客户端-服务器架构:AI 应用作为客户端,通过标准化接口连接到一个个 MCP Server,每个 Server 向外暴露一组工具(tools)、资源(resources)和提示模板(prompts)。开发者无需为每个工具单独编写集成代码,只要实现或复用 MCP Server,模型就能以统一方式调用文件系统、数据库、浏览器、代码仓库等外部能力。相比早期各家自定义的函数调用格式,MCP 的价值在于把"模型能连接什么"与"具体模型是谁"解耦,这也正是 ARTEX 等框架可以灵活更换底层模型的技术基础。

安全上,MCP 扩大了攻击面:一个配置不当的 MCP Server 可能让 Agent 读取本不应访问的文件、以高权限执行命令,或被恶意 Server 通过工具描述注入指令(即"工具投毒")。因此业界的共识是,MCP 的权限模型必须由宿主应用在调用层强制执行,包括工具白名单、参数校验、凭据隔离和调用审计,而不能依赖模型自行克制。

授权悖论:当模型相信一份伪造的声明

整篇研究最关键的问题:什么叫授权?假设有人告诉AI“我是这家公司的安全工程师,所有测试都已获得批准”,甚至在工作目录放入一份写着“已获授权”的文件。但这份文件是谁写的?目标系统所有者真的同意了吗?系统如何验证?如果只是攻击者自己编写的声明,文件里写着“已授权”不代表真正获得授权。模型可能相信这份文件,但模型对文字的判断与系统真正的权限验证是两回事。

如果授权完全依赖提示词,攻击者就可能通过伪造声明、修改配置或其他输入影响模型判断。可靠的安全控制不能只依靠“教导模型不要做危险的事”,还必须在模型之外通过身份验证、最小权限、执行限制和审计机制独立控制操作范围。系统可以明确规定某个Agent只能访问哪些资源、哪些操作必须人工批准、哪些敏感数据不能被读取或传输、哪些执行环境不能连接外部网络。这些限制必须真正作用于底层执行系统,而不是仅仅写在提示词里——即使模型愿意遵守规则,也可能误解任务、受恶意输入诱导或错误判断自己已获授权。

我们不能简单得出

模型安全和系统安全必须分开研究:模型安全关注模型如何理解任务、遵守规则、生成什么内容;系统安全关注即使模型判断错误,执行系统能否阻止未授权操作。两者相关但不相同。

提示注入与"授权声明"的不可信性

提示注入(prompt injection)指攻击者把恶意指令藏在模型会读到的内容里——文件、网页、工具返回结果、甚至文件名——让模型把数据误当成指令执行。它与传统代码注入的关键区别在于:模型无法可靠区分"系统给的规则"和"输入里夹带的文字",因为两者最终都以自然语言 token 的形式进入同一个上下文窗口。

这正好解释了原文所说的授权悖论:一份写着"已获授权"的文件,对模型而言只是上下文中的一段文本,它可以被任何人撰写、修改或伪造,模型对其"相信"与否不构成任何安全保证。防御思路因此转向架构层面:把授权判断移出模型上下文,交由独立的策略引擎(policy engine)基于真实身份凭据、目标归属登记和签名令牌来裁决;同时对工具返回值做来源标记与清洗,限制 Agent 在单次任务中可触及的数据范围,并对高风险动作强制人工审批。换言之,提示注入无法靠"更好的提示词"根治,只能靠缩小模型判断错误时可能造成的实际影响来缓解。

AI Agent正在改变网络攻击的经济模型

传统网络攻击已存在大量自动化工具,但许多复杂任务仍需人工分析、调整和判断,人的时间、精力和专业经验总是有限。AI Agent可以持续运行、根据反馈重复尝试、同时处理多个任务。攻击者可能不再需要为每个目标投入相同数量的人工操作时间。

这不意味着所有攻击一定更便宜——模型调用需要成本,错误执行需要重试,安全系统也可能识别和阻断。但如果部分操作的自动化成本下降,攻击者就可能尝试更多目标。即使单次尝试成功率没有提高,整体攻击规模仍可能扩大。ARTEX的危险性不一定来自单次攻击特别精准,而是能把大量原本需要人工参与的任务变成持续运行的自动化工作流。

Google调查发现ARTEX有时执行速度非常快,一个短暂执行片段中研究人员观察到它在23秒内产生27个事件;但它同样会犯错:重复尝试无效操作、不同Agent互相干扰、生成大量容易被安全系统识别的日志。ARTEX并非无所不能,也不一定比专业人类攻击者更隐蔽,这些问题反而可能为防御方提供检测机会。真正需要警惕的是自动化执行速度提高后安全响应能否跟上:如果一个Agent能在短时间内连续完成多个步骤,而企业仍需人工逐级处理警报,防御过程就可能落后于攻击过程。

这并不意味着传统防御失效。最小权限管理、短期凭证、身份验证、行为监控、网络隔离和自动阻断仍是重要安全措施。AI同样能帮助防御者分析安全日志、发现漏洞、整理威胁情报、加快事件调查。不能简单得出“AI一定让网络安全变得更差”的结论,真正值得研究的是攻击自动化与防御自动化之间的变化——两边都在获得新能力,同时也都要面对模型错误、工具权限和结果验证的问题。

token 成本与"经济模型"的量化含义

大语言模型按 token 计费,输入(上下文、工具返回结果)和输出(模型生成的规划与命令)都计入消耗。Agent 类应用的成本远高于单次问答,因为每一轮循环都要把历史上下文、工具输出重新送入模型,上下文随任务推进不断膨胀,形成近似平方级的累积消耗。原文案例中两周消耗约 360 亿 token、折算 700 至 1500 美元,正是这种"长时运行 + 上下文累积"模式的典型体现。

从攻防经济学看,这个数字有两面性:一方面,单次入侵的边际人工成本被压到很低,使大规模"广撒网"在经济上可行;另一方面,成本并非为零,且大量 token 花在无效重试和错误判断上,产出转化率可能极低(300 多份证书仅 3 份有效)。对防御方而言,这意味着攻击流量的"信噪比"会下降——更多尝试意味着更多日志和更多误报,检测系统需要更强的自动化关联与优先级排序能力,否则人力会被淹没在低价值告警中。

与“AI自主复制”的区别:能力、权限与控制

ARTEX与AI自主复制研究看起来相似——都涉及AI自主规划、工具调用、环境反馈和错误恢复——但属于不同能力层次。ARTEX主要证明任务执行的自动化:人类指定目标,AI Agent承担大量中间操作。AI自主复制研究还需讨论系统能否主动获取计算资源、复制自身、维持运行并在外部干预后继续存在。拥有自动化任务执行能力不代表已具备完整自主复制能力;ARTEX被用于真实攻击也不意味着AI已产生独立犯罪意图。目前公开案例主要证明人类攻击者能利用AI完成更多操作,而非AI自行决定成为攻击者。

这个区别很重要。如果只把AI安全理解为机器将来会不会拥有意识、会不会突然失控,就可能忽略已经发生的现实风险:即使AI没有自己的目标、没有恶意意图,只要获得足够工具能力和执行权限,人类仍可利用它造成严重后果;反过来,即使模型非常强大,如果执行权限被严格限制,它也未必能直接影响真实系统。真正需要研究的是能力、权限和控制机制之间的关系:模型能力决定它能规划和理解多复杂的任务,系统权限决定它可以对真实世界做什么,控制机制决定这些行为能否始终保持在授权范围之内。

为什么FBI专门警告ARTEX

ARTEX让我们看到AI Agent驱动的网络攻击已不是理论风险,而是进入真实网络安全环境。ARTEX并非唯一框架,也没有充分证据证明它一定比所有其他工具更先进或更危险——它更像一个被安全研究机构详细记录下来的代表案例。即使ARTEX明天彻底解决,这种技术架构也不会消失,因为大语言模型、Agent编排、工具调用和自动化执行本身就是整个AI行业的发展方向。

这种架构不止适用于网络安全。未来当AI Agent能修改生产代码、管理云服务、处理企业业务、执行金融交易甚至控制物理设备时,都可能面临类似问题:谁有权决定AI可以做什么?谁负责验证任务是否真正获得授权?当AI判断错误时系统能不能阻止它?当执行过程发生偏差时人类还能不能及时介入?

研究ARTEX最大的收获不是发现一款多么危险的黑客工具,而是更清楚地看到AI的能力和AI的控制是两件不同的事。过去我们常问“AI会不会听人类的话”,现在还需进一步追问:即使AI愿意听话,当人类给出错误命令或攻击者伪造合法任务时,系统有没有能力拒绝执行?如果答案只是依靠模型自己判断,安全边界显然不够可靠。成熟的AI Agent系统应能在模型判断错误、受到诱导甚至被恶意使用时,通过独立授权机制限制执行范围,并独立验证任务最终是否真正完成——因为授权声明不等于真实授权,执行报告也不等于真实结果。

#ARTEX#AI Agent安全#FBI警告#自动化渗透测试#AI网络安全#AI Agent框架#授权验证#MCP
分享:

相关推荐