联合国警告：AI安全治理不能等到风险完全明晰

联合国首次发布AI安全评估报告

联合国一个科学专家小组近日发出警告：各国政府需要在AI智能体（AI agents）的风险被完全理解之前，就着手对其加以约束。这是该全球性组织首次就人工智能安全议题发布重大评估报告，标志着AI治理正式登上全球外交议程的核心位置。

这份报告的发布时点颇具象征意义——正值各国领导人齐聚纽约参加高级别会议之际。将AI安全纳入国际外交讨论，意味着这一议题已经从单纯的技术或产业范畴，上升为需要跨国协调的公共治理问题。

"不能等待确定性"背后的治理逻辑

报告的核心主张——"AI安全保障不能等到确定性到来"——反映了一种典型的预防性治理思路。传统监管往往遵循"先观察、后规制"的路径，等到风险充分显现、因果关系清晰之后再介入。但联合国专家小组认为，面对能力快速跃升的AI智能体，这种滞后式监管可能为时已晚。

这一立场与近年来学界和政策圈讨论的"预防原则"（precautionary principle）一脉相承。当一项技术的潜在危害规模巨大、且一旦发生难以逆转时，决策者不应以"科学尚未完全证实"为由推迟行动。AI智能体因其自主执行任务、跨系统调用能力和快速迭代的特性，恰恰符合这种需要审慎对待的技术画像。

预防原则（Precautionary Principle）最早在环境政策领域被系统化，1992年《里约宣言》将其定义为：当某项活动存在对人类健康或环境造成严重或不可逆损害的威胁时，即便科学上尚存不确定性，也不能以此为由推迟采取保护措施。该原则在化学品管控、转基因技术、核安全等领域均有广泛应用，但批评者也指出，过度宽泛的预防原则可能导致"监管瘫痪"——几乎任何新技术都存在未知风险，若以此为由一律叫停，创新将举步维艰。因此在AI治理语境中，预防原则的实践难点在于：如何划定"潜在危害足够严重"的门槛，以及采取何种程度的限制才算"相称"，这正是各国政策制定者目前争议最激烈的核心问题。

AI智能体为何成为关注焦点

报告特别点名"能力日益增强的AI智能体"，这并非偶然。相比于早期只能生成文本或图像的AI模型，新一代智能体能够自主规划、调用工具、与外部系统交互并连续执行多步骤任务。这种自主性在带来效率提升的同时，也放大了失控和误用的风险。

一个能够自行访问网络、操作软件、甚至触发真实世界动作的AI系统，其潜在影响面远超传统的对话式模型。原始报道中提到的安全事件（涉及模型平台的安全漏洞）正是这类风险的现实注脚——当AI能力与系统访问权限结合，安全边界就变得格外脆弱。

AI智能体（AI Agent）与普通大语言模型的根本区别在于"行动能力"。普通模型接受输入、返回输出，整个过程止步于文字；而智能体则被赋予了一套"感知—规划—行动"的循环框架：它可以调用外部工具（如搜索引擎、代码执行器、API接口），将长远目标分解为子任务并依次完成，甚至在中途根据结果调整计划。当前典型的智能体架构包括 ReAct（推理+行动交替）、AutoGPT 式的自主目标追踪，以及多智能体协作系统。正因为智能体的决策链条长、影响面广，其错误或被恶意利用的后果可能呈指数级扩大——一个操作失误可能在完成任务之前已经触发了数十个下游动作，而这些动作在现实系统中往往难以逆转。

全球治理的挑战与前景

AI进入外交议程，意味着单一国家的监管努力已不足以应对跨境的技术扩散。AI模型可以轻易跨越国界部署，任何一国的监管空白都可能成为整体治理的短板。这也是联合国选择在此时介入的重要原因。

不过，将安全共识转化为可执行的国际规则仍面临巨大挑战。各国在AI发展速度、产业利益和监管哲学上存在显著差异，如何在"不扼杀创新"与"防范风险"之间取得平衡，将是后续谈判的核心难题。联合国此次评估更多是提出议程和框架，具体的约束机制仍需各方进一步博弈。

AI国际治理目前已有几条并行推进的轨道可供参照：英国主导的"AI安全峰会"（布莱切利峰会）于2023年形成了首份多国签署的AI安全声明；G7框架下的"广岛AI进程"发布了针对先进AI系统的自愿性行为准则；而欧盟《AI法案》则是迄今最具约束力的区域立法实践。联合国此次介入的独特价值在于其普遍性——成员国覆盖面远超上述任何机制，但也正因为此，其决议往往面临"最大公约数困境"：越是力图涵盖所有国家，条款就越容易流于原则性表述而缺乏操作性。如何借鉴《不扩散核武器条约》或《化学武器公约》等先例，设计出兼具约束力与灵活性的AI国际规则，是摆在联合国面前的真正考验。

结语

联合国首份AI安全评估报告传递了一个明确信号：在AI智能体能力飞速演进的当下，观望和等待可能比行动本身更危险。无论最终的国际规则如何落地，AI安全已经不可逆转地成为全球治理的常设议题。对于开发者、企业和政策制定者而言，主动纳入安全考量、参与规则制定，或将比被动应对更为明智。

（注：由于原始素材信息量有限，本文对部分背景和分析进行了合理延展，具体细节请以联合国官方报告为准。）