Anthropic CEO长文反击安全质疑："登顶竞赛"策略与千亿美元代价

Anthropic CEO Dario Amodei罕见地在X平台发表长篇回应，直面AI安全调查者@_NathanCalvin的尖锐批评。这场交锋不仅关乎一家公司的声誉，更触及前沿AI实验室在安全与商业之间的根本张力。

争议核心：安全承诺还是商业伪装？

事件起因于Nathan Calvin发布的一份调查报告，列举了Anthropic在过去一年中疑似背离安全承诺的行为。Amodei的回应开篇即展现开放姿态——他称赞Calvin的调查工作"来自建设性且诚实的位置"，并承认"像Anthropic这种规模的公司如果每天不被严厉批评，那才是出了问题"。他甚至坦承对方列举的"某些例子确实是Anthropic的失误"。

但话锋随即转向。Amodei明确表示"不同意帖子的主旨"，认为批评者忽略了一个根本背景：Anthropic多年来坚持的"登顶竞赛"（race to the top）理论。这一策略的核心逻辑是——只有身处技术最前沿，才能通过示范负责任的做法来抬高整个行业的安全标准。据Amodei观察，这一策略的效力"在前沿公司身上要强大得多"。

“登顶竞赛”（race to the top） 是AI治理领域的一种策略假说，其核心逻辑借鉴自环境监管中的“加州效应”：当技术领先者主动采取高于法定要求的安全标准时，这种示范会通过市场竞争压力迫使同行跟进，从而在不依赖政府强制的情况下整体抬升行业门槛。该理论的成立依赖两个前提：前沿公司确实拥有显著的市场或声誉优势可供“押注”，且后来者为了争夺同一批客户与人才不得不效仿。批评者则指出，这一策略缺乏可验证的因果证据，且容易被企业用作将商业行为包装为公共善意的修辞框架。

九项"代价高昂的安全决策"

为佐证"登顶竞赛"并非空谈，Amodei列出了一份详细清单，列举过去一年中Anthropic在商业上付出重大代价的安全举措：

政策倡导方面，Anthropic在SB53等州级AI立法中扮演关键角色，当时AI监管在政治上极不受欢迎，公司甚至主张比最终通过版本更严格的条款。Amodei本人也在公开文章中呼吁赋予政府阻断模型发布的权力，为此"遭到猛烈攻击"。

生物安全领域，由于在生物 uplift 试验中观察到令人担忧的结果，并拦截了潜在的生物武器滥用企图，Anthropic部署了极为严格的生物安全分类器。代价是大量误报——生物学家戏称其限制过严，竞争对手甚至以"更宽松的生物能力"作为卖点。Amodei坦言作为生物学家对此"特别沮丧"，但坚持"这是正确的事"。

模型发布节奏上，Mythos级模型早在2月就已就绪，却推迟到6月才全面开放，期间仅提供给少数合作伙伴用于网络防御。Amodei承认这"牺牲了数个月模型领先优势的很大一部分"，但换来了众多企业在网络能力模型泛滥前加固基础设施。

地缘政治层面，Anthropic是"第一家也是唯一一家"限制向中国控制公司（包括通过第三国运营的实体）销售AI服务的前沿公司，并持续倡导对华芯片出口管制——尽管这损害了与关键行业伙伴的关系。

此外，公司本周宣布将5%的股份投入公共利益基金，并持续发布大量安全报告和详细模型卡。Amodei强调，这些决策"并非由逐利驱动"。

承认失误但拒绝整体叙事

Amodei的回应并非全盘辩护。他将批评清单中的第7、8、9项归入"修辞或政策沟通不够审慎"的范畴，承认"本可以处理得更好"，并将责任揽于己身："我当然是CEO，我来负责。"对于第5项——修改负责任扩展政策（RSP）——他承认这是"最具实质性的议题"，但辩称旧版RSP的僵化要求有时迫使团队做"事后看对安全并不重要"的大量工作，而新版强调透明度和外部独立审查，反而为"登顶竞赛"奠定了基础。

对于第6项关于FCF与RSP并存的质疑，Amodei承诺"会进一步调查"，承认"可能没有以正确的方式权衡各种考量"。

但他坚决驳斥了批评的整体框架。针对第1至4项，Amodei的回应直截了当：这些不过是"在前沿竞争意味着什么"的例证，是"透明且寻常"的商业行为，与"登顶竞赛"策略完全一致。他反驳了关于封锁生物研究以偏袒自家产品的指控，称其"极不可信"——生命科学验证计划的存在本身就证明Anthropic无意与生物学家为敌。

负责任扩展政策（RSP, Responsible Scaling Policy） 是Anthropic于2023年提出的一套分级安全框架，其思路类似航空或核工业的“安全案例”制度：为模型能力设定若干“AI安全等级”（ASL），每达到一个新等级，就必须先满足对应的安全、安保与部署保障要求，否则不得继续扩展。旧版RSP因采用较为刚性的触发条件而受到批评，被认为在能力评估标准不明确时可能过度束缚研发；新版则转向更强调透明度、外部独立审查和持续迭代的治理模式。这一修改之所以被视为“最具实质性”，是因为它直接决定了公司在何种条件下允许自己发布更强模型。

negativity bias与更根本的分歧

Amodei提出了一个心理学层面的观察："存在一种显著的负面偏见，扭曲了你所做的这类评估。"他认为，任何决策都可以被事后解读为阴谋，但"大多数经不起仔细推敲"。

不过他也承认分歧的合理性：如果批评者认为失控风险远比误用风险重要，那么评估的天平自然会倾斜——但"这不是Anthropic的观点"，公司视两者为同等严重的威胁。

文末，Amodei透露将在近期进一步阐述公司如何在快速变化中践行价值观。这场公开辩论的价值或许正在于此：当一家前沿实验室愿意在公共平台上逐条回应安全质疑，本身就为"登顶竞赛"提供了一个可检验的样本。

而Nathan Calvin的调查与Amodei的反驳，共同勾勒出AI安全治理的核心难题——在政府监管缺位的当下，谁来定义"负责任"？企业自律的边界又在哪里？这场对话没有给出最终答案，但至少让争论变得更加具体。

背景补充

生物 uplift 试验指评估AI模型是否能够显著提升非专家在生物研发相关任务上的能力，例如设计病原体、优化实验流程或获取危险材料。这类评估是前沿实验室生物安全红队测试的核心环节，因为若模型能实质性降低生物武器的技术门槛，即构成“uplift风险”。相应地，生物安全分类器是部署在模型输入输出端的内容过滤系统，用于识别并拦截与危险生物研发相关的请求。分类器越严格，误报率越高，会误伤合法生物学研究者的正常查询，这正是文中生物学家抱怨限制过严、竞争对手以“更宽松”为卖点的背景。