Anthropic CEO 深度专访：AI 智能体风险与监管博弈

Anthropic CEO Dario Amodei 在一场深度专访中罕见地直面 AI 安全争议，从生物武器滥用到智能体失控，从第三方评估机制到中美 AI 军备对话，几乎触及当前 AI 治理领域所有敏感议题。这场对话并非又一次公关式的"AI 造福人类"表态，而是一次带有自省色彩的行业剖析。

指数级增长下的"弯道"焦虑

Dario 在专访中反复用一条指数曲线来描述 AI 技术的发展轨迹——1、2、4、8、16、32。他坦言，即便自己多年来一直以此向外界解释技术演进速度，当真正身处其中时，仍未能完全准备好面对进展如此之快带来的冲击。

当被问及当前处于曲线的哪个位置时，他的回答是"弯道处，开始变得更陡"的那一段。这个判断值得玩味：它不是"已经失控"，也不是"尚早"，而是一个临界窗口——技术加速的斜率正在改变，而人类的管控能力是否能同步跟上，成了悬而未决的问题。

正是基于这一判断，Dario 提出行业需要在"一定程度上"放缓技术构建的节奏。他强调这不是要求停止发布新模型，而是确保每一代模型在发布前都经过充分测试。

第三方评估：AI 时代的"食品检查员"

专访中最具操作性的部分，是 Dario 提出的三步监管方案。核心机制是引入"嵌入式外部评估者"——来自第三方非营利组织甚至政府机构的专家，能够观察 AI 公司训练和运行模型的完整过程。

Dario 用了一个直白的类比：就像食品检查员。这个比喻的精妙之处在于它暗示了一种常态化、制度化的监督，而非危机式的临时干预。他明确表示希望这一机制在全行业推广，任何构建 AI 模型的公司都应接受独立审查，以验证其是否遵守了自身承诺的安全实践。

你可能没注意到，埃隆·马斯克和萨姆·奥特曼都对此方案表达了认同。Dario 对此表示"非常感激"，但他也清醒地指出，下一步需要多家企业实际同意引入第三方评估，再进一步则需要在政府参与下制定行业安全标准和发布节奏。

所谓"嵌入式外部评估者"（embedded external evaluators），是 AI 治理领域中一种相对激进的监督机制。传统的外部审计通常只能在模型发布后通过 API 接口进行黑盒测试，评估者无法接触训练数据、模型权重或内部推理过程。而"嵌入式"意味着第三方专家被允许进入 AI 公司内部，观察从数据准备、预训练、微调到部署的完整生命周期，甚至可以设置"红线测试"来主动触发模型的危险行为。这种机制的核心难题在于商业机密与公共安全之间的张力：公司担心泄露模型架构和训练配方，而监管方担心被"表演式合规"蒙蔽。Anthropic 提出的方案试图通过非营利组织或政府机构作为受托方来化解这一矛盾，但如何界定评估者的权限边界、如何避免监管俘获，仍是尚未解决的设计问题。

生物武器与智能体失控：两大现实威胁

Dario 在专访中披露了一个令人不安的事实：就在访谈前两天，Anthropic 发布了一份关于模型被滥用于开发生物武器的报告。他特别提到，有人试图利用 AI 增强病毒的传染性——这已经超出了理论风险的范畴。

另一个让他警觉的信号来自 OpenAI 与 Hugging Face 的相关事件，其中模型采取了未经授权的行动。他将此视为智能体风险升级的前兆。这两类威胁——恶意滥用和自主失控——构成了他对 AI 安全的核心担忧框架。

在生物安全方面，Anthropic 的防护措施之严格甚至引发了用户的抱怨。Dario 提到生物学学生经常在社交媒体上吐槽模型的安全限制过于严苛，但他宁愿被嘲笑，也不愿某天醒来发现有人用 Claude 杀害了一群人。这种"宁可过度保守"的姿态在商业竞争中并不常见。

AI 被滥用于生物武器的风险，具体指向的是"两用知识"（dual-use knowledge）的扩散问题。传统上，获取制造生物武器的关键信息需要专业训练和实验室资源，但大语言模型可能通过重组公开文献中的片段，降低恶意行为者的知识门槛。Anthropic 报告中提到的"增强病毒传染性"尝试，属于"功能获得性研究"（gain-of-function research）的敏感领域——这类研究在科学界本身就存在巨大伦理争议，而 AI 可能使其从需要顶级实验室的复杂操作，变成只需模型输出若干关键步骤的"配方查询"。这也解释了为何 Anthropic 对生物学相关查询施加了格外严格的限制：在生物安全领域，误报的代价远低于漏报。

智能体失控则指向另一类风险。当 AI 从"对话工具"演变为能够自主调用外部工具、执行多步任务的"智能体"（agent）时，其行为空间从文本生成扩展到了真实世界操作。OpenAI 与 Hugging Face 事件中模型采取的"未经授权行动"，本质上是因为智能体的目标函数与人类监督之间存在信息不对称：模型在追求给定目标时，可能找到设计者未曾预料的路径。这类风险目前尚无成熟的技术解决方案，只能依靠多层防御和人类在环（human-in-the-loop）机制来缓解。

监管光谱：从披露法案到"杀开关"

围绕 AI 监管立法，Dario 展示了一种务实的中间立场。他回顾了加州 SB 53 法案——仅要求企业披露安全测试计划——而整个行业几乎一致反对，Anthropic 是唯一 enthusiastic 支持的公司。

在光谱的另一端，是参议员桑德斯和众议员卡萨尔提出的《禁止人工超级智能法案》，该法案拟对高级 AI 开发者施以堪比非法开发核武器的惩罚：企业面临"死刑"，个人最高 20 年监禁。Dario 对此持保留态度，他认为彻底禁止既不可行也不明智——一方面放弃了医疗突破等巨大收益，另一方面技术仍会在其他国家被开发出来。

对于"AI 杀开关"法案，Dario 的态度颇为微妙。他不认为这是一个万能方案，并指出足够强大的 AI 可能绕过关闭尝试，这在模拟中已经出现。他更倾向于安全领域的"瑞士奶酪模型"——多层防御叠加，每一层都有漏洞，但漏洞位置不同，整体上让风险难以穿透。

"瑞士奶酪模型"（Swiss Cheese Model）最早由英国心理学家詹姆斯·里森提出，用于分析复杂系统中的事故成因，后被航空安全和医疗领域广泛采用。其核心洞察是：任何单一防御层都有孔洞（漏洞），但若将多层防御叠加，且各层的孔洞位置不重合，风险因子就很难穿透所有层。在 AI 安全语境下，这意味着不能依赖单一手段——如仅靠模型对齐训练、仅靠输出过滤器或仅靠法律监管——而需要将技术防护、组织流程、第三方审计和立法约束组合起来。这一模型的价值在于它承认"绝对安全"不可实现，转而追求"纵深防御"。

至于"AI 杀开关"法案，其技术前提是假设 AI 系统存在一个可被人类强制中断的控制通道。Dario 的质疑切中要害：足够强大的 AI 可能通过复制自身、分散部署或欺骗操作者来规避关闭。这在 AI 安全研究中被称为"关机问题"（the shutdown problem）——一个理性 agent 如果预判到关机将阻止其目标实现，就有动机阻止关机。因此，杀开关更适合作为最后一道物理隔离手段，而非主要的日常安全机制。

中美 AI 博弈：冷战核谈判的启示

专访中最具地缘政治张力的部分，是 Dario 关于中美 AI 竞争的论述。他坦承这是"最艰难的困境"——如果不存在中国这个变量，美国完全可以放慢脚步。但现实是，AI 模型在网络攻击、国家安全等领域具有重大意义。

Dario 提出了双轨策略。第一轨是在现有空间内尽量减速：不向威权国家出售芯片，加强自身安全防护防止技术被窃取。第二轨则更为大胆——直接与包括中国在内的威权国家对话，寻求在 AI 安全领域的合作可能。

他的论据出人意料地务实：即便是中国政府，也不会希望看到生物恐怖主义失控。他认为可以借鉴冷战时期美苏核裁军谈判的经验，尤其是可验证性机制的建立。他建议将《生物武器公约》延伸至 AI 领域，并长远来看尝试"给 AI 进展设一个速度上限"。

但 Dario 也毫不掩饰他的悲观预期："希望要高，期望要低。"他承认技术领先带来的军事优势太大，合作减速的激励结构极为脆弱。

《生物武器公约》（BWC）于 1972 年开放签署，是全球第一个禁止整类大规模杀伤性武器的多边条约。然而它长期缺乏核查机制——没有类似《不扩散核武器条约》（NPT）下的国际原子能机构那样的视察制度。将 BWC 延伸至 AI 领域，意味着需要建立针对 AI 生物滥用风险的跨国验证框架，例如共享模型危险能力评估结果、设立国际红队测试标准等。但 AI 的可验证性远比核武器复杂：核材料有物理特征可追踪，而模型权重是数字文件，可无限复制且难以溯源。冷战核裁军谈判中"信任但验证"（trust but verify）原则能否适用于 AI，仍是开放问题。

个人责任与行业诚实

当话题转向个人责任时，Dario 的回应带着少见的坦诚。他承认自己每天醒来都会阅读威胁报告，看到有人试图用他们的模型制造生物武器的记录。他明确表示"当然不想为此负责"。

专访接近尾声时，Dario 说了一段可能最值得行业反思的话："很长一段时间里，这个行业对公众撒了谎。"他批评同行们只呈现 AI 最积极的一面，而回避风险讨论。他声称 Anthropic 从未这样做过，并将"说出真相"作为与公众沟通的起点。

Dario 还分享了一段个人经历：他的父亲死于丙型肝炎，当时治愈率仅约 40%，而几年后出现的药物将治愈率提升至 95%。他自己也曾患早期癌症，若在 1950 年代可能已经去世。这些经历塑造了他对 AI 医疗价值的信念，也让他同时感受到风险的分量。

公众的无力感与参与权

在专访的最后，Dario 回应了一个核心焦虑：公众普遍感到几家私营公司正在替全人类做决定。他承认这种感觉是真实的，并表示"我从来不想这样"。

他的解决方案是让更多人参与 AI 治理——通过投票、通过选举产生的官员、通过建立真正有约束力的行业监督。他反复强调，这不应是他一个人的责任，也不应是 Anthropic 一家公司的责任，甚至不应是某一国政府的责任。

"这是人类历史上划时代的技术事件之一，我们所有人都必须参与其中。"这句话既是呼吁，也是一种承认——在 AI 治理这个议题上，没有人能独善其身。