[控场AI]
· 4 分钟阅读· 2,290 字

Claude Mythos 5 成红队利器:Cisco 自适应红队引擎升级

Claude Mythos 5 成红队利器:Cisco 自适应红队引擎升级

Cisco 将 Claude Mythos 5 集成进自适应红队引擎,以超强治理框架让安全团队主动测试自身 AI 系统。

Cisco 宣布将 Anthropic 的 Claude Mythos 5 集成到自适应红队引擎中,为防御者、检测工程师、SOC 分析师和紫队成员提供面向进攻性安全的前沿模型。文章指出,安全圈长期关注“AI 会不会攻击我们”,却忽视了“用 AI 测试我们自己”。该集成让团队能在攻击者之前对 AI 智能体和应用进行红队测试,核心思路是以攻促防。更值得关注的是其“超治理”框架:范围前置定义、人类签署授权、全程日志记录,与人类红队的交战规则一致。文章认为,治理框架的设计可能比模型本身更能决定企业是否真正采用该工具。

Cisco 宣布将 Anthropic 的 Claude Mythos 5 集成到其自适应红队引擎(Adaptive Red Teaming Engine)中,为防御者、检测工程师、SOC 分析师和紫队成员提供一个专为进攻性安全打造的前沿模型。这意味着安全团队可以在攻击者之前,对自己部署的 AI 智能体和应用进行红队测试——将紫队演练推向极致。

Cisco 自适应红队引擎引入 Claude Mythos 5

为什么这件事值得关注

长期以来,安全圈的注意力集中在“AI 会不会攻击我们”上,却很少有人讨论“用 AI 来测试我们自己”。Cisco 的这次集成正是对这一盲区的回应。

据发布方介绍,Claude Mythos 5 并非通用聊天模型的简单复用,而是面向进攻性安全场景调优的前沿模型。防御方可以利用它模拟真实攻击者的思维与手法,提前发现 AI 智能体和应用中的薄弱环节。

为进攻性安全构建的前沿模型

这一思路的核心在于“以攻促防”:与其被动等待外部攻击,不如主动在自己的环境中演练。对于已经将 AI 智能体接入业务流程的团队来说,这种自测能力尤为关键——智能体的行为边界、工具调用权限和提示注入风险,都需要在真实攻击发生前被系统性地检验。

红队(Red Teaming) 源自军事演习,指由独立团队扮演攻击方,对己方系统进行对抗性测试以暴露弱点。在网络安全领域,红队通常模拟真实攻击者的战术、技术与流程(TTP),评估防御体系的有效性。传统红队依赖安全专家手动操作,成本高、周期长且难以规模化。将前沿 AI 模型引入红队工具链,可以自动化生成攻击思路、变异攻击载荷并快速迭代测试用例,从而在保持人类监督的前提下大幅提升测试覆盖率和频率。

紫队(Purple Team) 是红队与蓝队(防守方)之间的协作机制,强调攻防双方共享信息、共同改进检测与响应能力。紫队演练的核心不是分出胜负,而是把红队的攻击发现转化为蓝队可落地的检测规则和防御策略。Cisco 将 AI 红队能力集成到自适应红队引擎中,正是为了让紫队能够在日常工作中持续开展这种转化,而非依赖一次性的年度演练。

超强治理:让 AI 红队可控可审计

比起模型能力本身,更值得安全治理(GRC)从业者关注的是其治理框架。Cisco 强调该工具是“超治理”(hyper governed)的:

  • 范围前置定义:每次演练的行动范围在开始前明确划定;
  • 人类签署授权:必须指定并授权一名人类签署人;
  • 全程日志记录:每一个动作都被记录在案。

超治理的红队流程

这套规则与人类红队所遵循的交战规则(rules of engagement)一致。一个简洁的判断标准是:如果你的 AI 智能体没有被限定范围、没有签署授权、没有日志记录,那它就谈不上被治理。

范围、签署与日志缺一不可

交战规则(Rules of Engagement, RoE) 是红队行动前由授权方与执行方共同签署的正式文档,明确测试范围、允许使用的技术、禁止触碰的系统、时间窗口、应急联系人以及法律授权依据。RoE 是红队行动合法性与安全性的基石,缺失 RoE 的攻击性测试可能构成违法行为。Cisco 将该框架引入 AI 红队工具,要求范围前置定义、人类签署授权和全程日志记录,实质上是把人类红队的合规实践平移到了 AI 智能体上。

提示注入(Prompt Injection) 是 AI 应用面临的典型攻击方式:攻击者通过在输入中嵌入恶意指令,诱使大语言模型偏离原始任务或泄露敏感信息。对于接入工具调用能力的 AI 智能体,提示注入可能导致越权操作、数据外泄甚至供应链攻击。红队测试需要系统性地检验智能体对各类注入载荷的抵抗力,这正是进攻性安全模型能够发挥作用的场景之一。

对安全团队意味着什么

对于防守方和紫队而言,这项集成的价值在于把红队能力下沉到日常工作中。检测工程师可以用它验证检测规则的有效性,SOC 分析师可以借此理解攻击链的形态,紫队则能在同一套治理框架下开展攻防演练。

需要说明的是,上述信息来自 Cisco 赞助的发布视频,更多技术细节和完整说明需参考 Cisco 官方博客。对于希望在 AI 安全治理上建立可审计流程的团队,这种“范围—签署—日志”三位一体的模式提供了一个可借鉴的落地样板。

总体来看,Claude Mythos 5 进入红队工具链,标志着 AI 安全从“担忧攻击”转向“主动验证”的实践阶段,而治理框架的设计,可能比模型本身更能决定它能否被企业真正采用。

检测工程(Detection Engineering) 是安全运营中的关键职能,负责设计、编写和维护检测规则(如 SIEM 规则、EDR 检测逻辑),以识别恶意行为。检测规则的有效性不能靠假设,需要以真实攻击行为进行验证。AI 红队工具可以生成贴近真实攻击链的行为样本,帮助检测工程师验证规则是否触发、是否存在盲区,并持续优化误报与漏报率。对于 SOC 分析师而言,理解攻击链的完整形态有助于更快地在告警中还原攻击意图,缩短响应时间。

#Claude Mythos 5#Cisco 红队#自适应红队引擎#AI 安全#紫队演练#进攻性安全#AI 治理
分享:

相关推荐