[控场AI]
· 4 分钟阅读· 2,250 字

12小时攻破Anthropic Slack:AI护城河被低估了

12小时攻破Anthropic Slack:AI护城河被低估了

低水平攻击者数天内获取OpenAI与Anthropic核心机密,令数月AI领先缩水为12小时。

AI安全研究员Paul Christiano指出,外界关于"美国AI领先中国多少个月"的讨论问错了问题。据其描述,被称为"Hacktron"的低水平攻击者在尝试数天后,获得了查看OpenAI内部源代码并向其monorepo提交pull request的权限;另一家被称为"Cathedral"的网络安全初创公司则在12小时内拿到Anthropic全部Slack访问权限,而那里正是算法机密被讨论之处。两起事件的共同点是攻击者并非国家级APT组织,真正的漏洞在于工程实践的边界管理。Christiano由此提出,若核心算法秘密可经Slack或代码仓库泄露,所谓领先窗口实际只有12小时。文章据此修正AI竞争叙事,认为安全工程权重被系统性低估,访问控制与内部信息治理同样决定领先能否兑现。

安全事件揭示的残酷现实

AI 安全研究员 Paul Christiano 在近期一段访谈中抛出了一个令人不安的判断:外界关于"美国 AI 领先中国多少个月"的讨论,可能从一开始就问错了问题。据他描述,Anthropic 和 OpenAI 在不久前都遭遇了手段并不高明的攻击者,而这些攻击者却获得了足以提取绝大部分算法进展的访问权限。

具体来说,被 Christiano 称为"Hacktron"的攻击方在尝试数天后,不仅获得了查看 OpenAI 内部源代码的能力,还能向 OpenAI 的 monorepo(单一代码仓库)提交 pull request。另一家被他称为"Cathedral"的网络安全初创公司,则在 12 小时内拿到了 Anthropic 全部 Slack 的访问权限——那里正是算法机密被讨论的地方。

or they got access to the monorepo where most OpenAI code is shared and iterated on.

这两起事件的共同点值得警惕:攻击者并非什么国家级APT组织,按 Christiano 的说法是"极其不高明的行为者"。真正的漏洞不在密码学,而在工程实践的边界管理上。

Pull request(PR) 是代码协作平台上的合并请求机制:开发者在一个分支上修改代码后,发起 PR 请求将变更合入主干,由维护者审查、讨论并通过后才会合并。PR 本身通常不直接修改生产代码,但它是供应链攻击的常见入口——攻击者可以提交看似无害的依赖升级或测试代码,诱导审查者放行,从而在仓库中植入恶意逻辑。对 AI 实验室而言,外部人员能向内部 monorepo 提交 PR,意味着不仅源代码被读取,还存在代码投毒与供应链污染的潜在通道,这也是 Christiano 特别强调该权限的原因。

从"几个月领先"到"12小时领先"

人们习惯用月为单位衡量中美 AI 差距——八个月、十二个月、六个月,各种版本都有。Christiano 的回应颇为锋利:现实中真正的领先窗口只有 12 小时。

这个说法的逻辑并不复杂。如果核心算法秘密可以通过 Slack 消息或代码仓库泄露,那么所谓的时间差在泄露发生的那一刻就归零了。对手不需要从头追赶,只需要拿到同一份信息。

source code, but the ability to make pull requests to OpenAI's monorepo. And then recently

这也解释了为什么"领先论"在安全事件面前显得脆弱:领先的前提是信息隔离有效,而这个前提正在被反复证伪。

为什么 Slack 和 Monorepo 是软肋

现代 AI 实验室的知识资产高度集中在两类系统中。一是协作工具,Slack 承载了研究讨论、实验结论和失败教训——这些往往比论文更有价值,因为它们包含大量未公开的试错路径。二是代码仓库,monorepo 模式下几乎所有迭代都在同一处发生,一旦被读取甚至可写入,攻击面就从"看"扩展到"改"。

these algorithmic secrets are discussed. People often debate, are we eight months ahead of China

Christiano 特别提到 pull request 权限这一点。能提交 PR 意味着不只是情报泄露,还存在代码投毒和供应链污染的潜在风险——尽管原始素材并未指明是否发生过此类操作。

Monorepo(单一代码仓库) 是指将多个项目或组件的代码集中存放在同一个仓库中管理的工程实践,与每个项目独立建仓的 multi-repo 模式相对。Google、Meta 等大型科技公司长期采用 monorepo,近年 AI 实验室也普遍跟进,原因在于它便于跨模块重构、统一依赖版本、共享工具链,并让研究者能在同一处看到模型训练、推理服务与数据管线的全部代码。但代价是权限边界高度集中:一旦攻击者获得仓库读权限,几乎等于拿到全部算法实现;若能提交 pull request,还可能通过看似正常的代码变更植入后门。因此 monorepo 的访问控制、代码审查与 CI 流水线安全,直接决定了核心知识资产的暴露面。

对 AI 竞争叙事的修正

这类事件对行业的影响不止于个案。它提示我们,AI 竞争优势的评估框架里,安全工程的权重被系统性低估了。模型能力、算力规模、数据质量常被拿来比较,但访问控制和内部信息治理同样是决定领先能否兑现的变量。

American companies are at. So to the extent that this information is not protected, then the lead

Christiano 的结论很直接:如果这些信息得不到保护,领先本身在最初就没有太大意义。对 AI 公司而言,这或许比任何一次基准测试的胜负都更值得重视。

#AI安全#OpenAI源代码泄露#Anthropic Slack#AI竞争差距#monorepo安全#Paul Christiano
分享:

相关推荐