Bengio 在联合国安理会演讲：失控的前沿 AI 是人类无法回避的威胁

当一位图灵奖得主、深度学习奠基人之一站上联合国安理会的讲台，他带来的不是技术乐观主义的宣言，而是一份关于人类集体命运的警告。Yoshua Bengio 教授的这次发言，将前沿 AI 的风险议题从学术圈和科技媒体的讨论桌，直接推到了国际安全治理的最高舞台。

为什么是安理会，而不是学术会议

Bengio 选择在联合国安理会发声，这个动作本身传递的信号远比演讲内容更值得解读。安理会的职责是维护国际和平与安全，其议程通常围绕战争、恐怖主义、大规模杀伤性武器等传统安全议题展开。将前沿 AI 纳入这一框架，意味着 Bengio 试图完成一次关键的概念转换：不受控制的前沿 AI 不是某个行业的技术问题，而是与核武器、生物武器同等级别的全球性安全威胁。

这一框架转换有其内在逻辑。前沿 AI 系统的能力正在快速逼近甚至超越人类在特定领域的判断力，而这些系统的开发却高度集中在少数机构和少数国家手中，缺乏任何具有约束力的国际协调机制。Bengio 在演讲中的核心判断是，这种「能力快速增长 + 治理严重滞后」的组合，构成了人类历史上前所未有的风险格局。

前沿 AI（Frontier AI） 通常指当前能力最强、处于技术最前沿的一批大规模人工智能模型，如 GPT-4、Claude、Gemini 等。它们的特点是训练算力巨大、能力泛化强，且在推理、编程、科学研究等任务上不断逼近甚至超越人类专家水平。与专用 AI 不同，前沿 AI 的通用性和涌现能力使其潜在风险更难预测和控制。Bengio 所关注的正是这一类模型：一旦其能力继续快速提升而治理机制缺位，可能带来失控、滥用或社会结构剧变等灾难性后果。正因如此，他主张将其风险等级与核武器、生物武器等传统安全威胁并列，而非仅视为行业技术问题。

联合国安理会 是联合国六大主要机构之一，负有维护国际和平与安全的首要责任，其决议对成员国具有法律约束力。安理会议程历来集中于战争、恐怖主义、大规模杀伤性武器扩散等传统安全议题。前沿 AI 一旦被纳入这一框架，意味着其风险被正式认定为全球性安全威胁，而非单纯的技术或商业问题。这种议程设置本身就是一种政治信号，表明国际安全机构开始将 AI 治理提升到最高级别的多边安全对话层面。

“人类曾经做到过”——历史先例的启示

演讲中有一句话值得反复咀嚼："Humanity has summoned the courage and wisdom to manage catastrophic risks before."（人类曾经鼓起勇气和智慧管理过灾难性风险。）

这不是空洞的修辞。回顾历史，冷战时期的核军备控制、臭氧层空洞引发的《蒙特利尔议定书》、生物武器公约的签署，都是人类在面临存亡级别威胁时做出集体理性选择的案例。Bengio 引用这些先例的用意很明确：当前沿 AI 的风险已经具备全球性和灾难性两个特征时，人类并非没有能力应对——问题在于是否愿意承认威胁的紧迫性。

但 Bengio 同时也暗示了一个关键差异：核武器和臭氧层问题的因果关系相对清晰，威胁机制可测量、可验证。前沿 AI 的风险则更加分散和隐蔽——它可能表现为失控的自主系统、被恶意利用的模型能力、或者是经济和社会结构的剧烈断裂。这种「威胁难以被直观感知」的特征，恰恰是国际协调难以启动的最大障碍。

“比任何个人、商业或国家利益都大”

Bengio 演讲中最具政治分量的一句话，是强调这一议题"far bigger than any personal, commercial, or national interest"（远比任何个人、商业或国家利益都大）。

这句话指向一个尖锐的现实：前沿 AI 的研发竞赛正在由商业利益和国家竞争双重驱动。头部 AI 公司之间存在激烈的市场份额争夺，主要大国之间则存在技术霸权的战略博弈。在这种格局下，任何单方面的放缓或监管都被视为「让对手领先」的战略失误。Bengio 的发言实质上是在呼吁一种超越零和博弈的思维方式——如果失控的前沿 AI 构成的是人类共同的存在性风险，那么竞争框架本身就是问题的一部分。

这并非天真的理想主义。Bengio 在演讲中提出了"We must act now"的紧迫呼吁，这表明他认识到窗口期正在关闭。当前的治理真空不会自动修复——每一代更强大的模型发布，都会让国际协调的难度进一步上升。

零和博弈 指一方所得必然等于另一方所失的博弈格局。在前沿 AI 研发竞赛中，主要国家和头部企业常将其视为零和博弈：任何单方面的放缓或监管都被解读为让对手获得战略优势，因此各方倾向于持续加速而非合作。Bengio 的呼吁实质上是主张超越这种零和思维，因为如果失控的前沿 AI 构成的是人类共同的存在性风险，那么竞争框架本身就会加剧风险。换言之，当风险是全球公共品（或公害）时，个体理性地追求相对优势可能导致集体灾难，需要一种非零和的协调机制来替代纯粹的竞争逻辑。

技术专家走入地缘政治舞台的意义

Bengio 此次演讲的另一个值得关注的维度，是技术专家在最高级别国际安全论坛上扮演的角色变化。过去，AI 治理的国际讨论主要在学术会议、行业峰会和部分国家的政策圈内进行。一位核心技术人员被邀请到安理会发言，意味着国际安全机构开始承认：理解前沿 AI 的风险，不能只依赖外交官和军事战略家，需要来自技术前沿的第一手判断。

但这种角色转变也带来张力。技术专家擅长描述「可能发生什么」，而国际安全治理需要回答「应该怎么做」。Bengio 在演讲中提出的行动呼吁——"We must act now, we must summon the courage to do it"——指向的是治理行动，但具体的制度设计、执行机制和各国责任分配，仍是一片空白。

从这个意义上说，这次演讲是一个起点而非终点。它完成了一项关键工作：用权威的技术视角，将前沿 AI 风险正式纳入国际安全议程。接下来的问题——如何建立有效的国际协调机制、如何平衡创新与安全、如何在竞争环境中维持合作——需要技术界、政策界和国际组织的持续对话。

正如 Bengio 所言，今天关于这项技术的选择，将塑造未来几代人。

存在性风险（Existential Risk） 指可能导致人类文明永久倒退甚至灭绝的风险。Bengio 在演讲中并未直接使用该术语，但其警告的内在逻辑——不受控制的前沿 AI 可能带来不可逆的全球性灾难——正属于存在性风险的范畴。与核战争、失控的合成生物学等并列，前沿 AI 被视为新兴的存在性风险源。其特殊性在于威胁机制分散、难以直观感知，且治理窗口期可能随能力增长而迅速关闭。理解这一概念有助于把握 Bengio 为何选择在安理会而非学术会议发声：存在性风险本质上是国际安全议题，需要超越国界的集体行动。