OpenAI悄然解散灾难性风险团队，AI安全承诺再遭质疑

事件概述：OpenAI再陷安全治理风波

近日，一则关于OpenAI内部安全治理的消息在Reddit等社交平台引发广泛讨论：据爆料，OpenAI已经"悄然"（quietly）解散了其负责应对"灾难性风险"（catastrophic risk）的专门团队。这一消息之所以引发关注，不仅因为它触及了AI安全这一核心议题，更因为其"低调处理"的方式本身就折射出行业内一个日益尖锐的矛盾——在商业化竞速与安全责任之间，前沿AI公司该如何权衡？

所谓"灾难性风险团队"，通常指的是专门评估和防范AI系统可能带来的极端、大规模负面后果的部门，例如AI被滥用于生物武器、网络攻击、大规模虚假信息传播，乃至更遥远的AI"失控"风险。这类团队的存在，本身就是AI公司向外界展示其"负责任开发"承诺的重要标志。

在技术层面，灾难性风险（Catastrophic Risk）在AI安全领域有着明确的定义范畴，通常指可能导致大量人员伤亡、大规模基础设施瘫痪或社会秩序根本性崩溃的AI相关风险。具体而言，这类团队通常会评估以下场景：AI辅助生物武器设计（如蛋白质折叠模型被用于合成致命病原体）、AI增强的网络攻击能力（如自动发现零日漏洞并编写利用代码）、AI生成的大规模协调性虚假信息运动，以及更前沿的"AI失控"（loss of control）场景——即AI系统追求自身目标而非人类预设目标的情况。这类团队的工作方法通常包括"红队测试"（Red Teaming，即模拟恶意使用者尝试突破模型安全护栏）、"能力评估"（Capability Evaluation，测量模型在危险领域的实际能力水平）和"风险建模"（对低概率高影响事件进行系统性分析）。

从超级对齐团队到灾难性风险团队：OpenAI安全架构持续动荡

这并非OpenAI第一次在安全团队问题上引发外界质疑。回顾过去一年多，OpenAI的安全治理架构经历了多次重大调整。

超级对齐团队解散的前车之鉴

2024年，OpenAI曾解散其备受关注的"超级对齐"（Superalignment）团队。该团队由联合创始人Ilya Sutskever和Jan Leike共同领导，原本承诺投入公司20%的算力资源，专注于解决如何控制"远超人类智能"的AI系统这一根本性难题。然而随着两位负责人相继离职，该团队被整合分散。Jan Leike在离职时公开表示，"安全文化和流程已经让位于闪亮的产品"。

超级对齐是AI安全领域最具前瞻性和争议性的研究方向之一。其核心问题可以简化表述为：当AI系统的智能水平远超人类时，人类如何确保它仍然按照人类的意图和价值观行事？这在技术上被称为"对齐问题"（Alignment Problem）。传统的对齐方法如RLHF（基于人类反馈的强化学习）依赖于人类评估者能够判断AI输出的质量，但当AI能力超越人类理解范围时，这种方法就会失效——人类无法有效监督自己无法理解的系统。Ilya Sutskever团队探索的方向包括使用较弱的AI系统监督较强的AI系统（即"弱到强泛化"实验），以及开发可解释性工具来理解超级智能的决策过程。该团队承诺获得的20%算力资源，按照OpenAI当时的规模估算，价值可达数十亿美元级别，这从侧面显示了最初承诺的重大程度，也使得后续的食言更加令人震惊。

如今灾难性风险团队被解散的消息，若属实，则是这一趋势的又一延续。外界担忧的核心在于：当一家掌握着最前沿AI能力的公司一再削减或重组其专门的安全评估力量时，谁来为潜在的极端风险把关？

"悄然"二字背后的信任危机

值得玩味的是报道中"quietly"（悄然）这个措辞。相比于产品发布时的高调宣传，涉及安全团队的调整往往在没有正式公告的情况下进行。这种信息不对称本身就加剧了公众的不信任感。当安全承诺是公开做出的，而收缩却是私下进行的，外界自然会质疑这些承诺的分量究竟有多重。

商业化压力与AI安全责任的结构性矛盾

要理解这一系列事件，必须放在整个AI行业激烈竞争的大背景下审视。

AI竞赛中的艰难取舍

自ChatGPT引爆生成式AI热潮以来，OpenAI、Google、Anthropic、Meta等公司陷入了一场空前的能力竞赛。在这场竞赛中，模型迭代速度、产品发布节奏成为衡量成败的关键指标。而安全评估、红队测试、对齐研究这些工作，虽然至关重要，却往往会"拖慢"产品上线的步伐。

这场竞赛的烈度堪比历史上的太空竞赛。OpenAI凭借GPT系列模型占据先发优势，但Google（Gemini系列）、Anthropic（Claude系列）、Meta（LLaMA系列开源路线）以及中国的DeepSeek、字节跳动等公司快速跟进。这场竞赛的特殊性在于其"赢者通吃"的网络效应——率先达到某一能力阈值的公司可能获得不成比例的市场份额和数据飞轮优势。据估计，训练一个前沿大模型的成本已从数百万美元攀升至数亿甚至数十亿美元，这意味着每一次训练周期的延迟都代表着巨大的机会成本。在此背景下，安全评估如果需要额外数周或数月的时间，对商业竞争力的影响是实实在在的。

当资源需要在"更快推出产品"与"更充分评估风险"之间分配时，商业逻辑常常占据上风。这不是某一家公司的道德问题，而是整个AI行业激励机制的结构性困境。

资源整合还是安全能力削弱？

提一嘴，团队被"解散"并不必然等同于相关工作被完全放弃。企业内部常见的做法是将专门团队的职能"整合"到其他部门中，宣称这样能让安全考量"融入每个环节"。然而批评者认为，这种整合往往意味着专职、独立的安全监督力量被稀释——当安全成为"人人有责"时，也可能变成"无人真正负责"。

独立的安全团队之所以重要，正是因为它能够站在与产品团队相对独立的立场上，对潜在风险发出不受商业利益影响的警告。一旦这种独立性被削弱，内部制衡机制也随之弱化。完整的安全评估流程通常包括红队测试（由专门人员模拟恶意使用者系统性尝试突破AI安全防护）、模型卡编写、影响评估以及分阶段发布等环节。红队测试源自军事术语，在AI领域涵盖"越狱"（Jailbreaking）测试、危险能力探测和对抗性输入测试等多个层面。这些流程的完整执行可能需要数周至数月，且需要专门的技术人才和独立的判断权限——这正是为何独立安全团队被认为不可替代的关键原因。

AI治理的深层拷问：自律、监管与透明度

这一事件的意义远超OpenAI一家公司，它触及了AI治理的几个根本问题。

AI行业自律能否被信赖？

长期以来，前沿AI公司主张"自我监管"，即由公司内部的安全团队和治理框架来管理风险。但当这些内部机制可以被公司管理层随意重组、解散时，外界有理由质疑：仅靠企业自律是否足以应对AI可能带来的灾难性风险？

这也为主张政府监管介入的一方提供了有力论据。如果连行业领头羊都无法维持稳定的内部安全承诺，那么外部的、有约束力的AI监管框架就显得愈发必要。

从全球监管进展来看，各主要经济体正以不同速度推进AI治理框架。欧盟的《人工智能法案》（AI Act）于2024年正式生效，是全球首部全面的AI监管法律，对"高风险"AI系统施加了严格的合规要求，包括强制性的风险评估和透明度义务。美国此前采取了行政令加行业自愿承诺的路径，拜登政府2023年发布的AI行政令要求前沿模型开发者向政府报告安全测试结果，但特朗普政府上台后已撤销该行政令，监管态势出现不确定性。英国则通过AI安全研究所（AI Safety Institute）走政府研究引导路线，中国发布了《生成式人工智能服务管理暂行办法》等多项规定。这些不同路径反映了各国在创新促进与风险管控之间的不同权衡，但一个共同趋势是：纯粹依赖企业自律的模式正日益受到质疑。

透明度缺失加剧公众担忧

无论是超级对齐团队还是灾难性风险团队的调整，公众获知的信息大多来自离职员工的爆料或媒体报道，而非公司主动、透明的披露。这种透明度的缺失，使得社会难以对这些掌握关键技术的公司进行有效监督。

结语：AI安全不应是可以"悄然"放弃的选项

OpenAI灾难性风险团队被解散的传闻，无论最终细节如何，都再次敲响了警钟。在AI能力以前所未有速度演进的今天，专门的、独立的安全评估力量不应成为可以随商业需要而增减的"成本项"，而应是前沿AI开发不可或缺的基础设施。

对于整个行业而言，真正的挑战在于：如何设计出既能推动创新，又能确保安全承诺不被竞争压力侵蚀的治理机制。这或许需要更强的外部监管、更高的透明度要求，以及一种从根本上重新平衡"速度"与"责任"的行业文化。在通往更强大AI的道路上，安全从来都不应该是一个可以"悄然"放弃的选项。