Sam Altman联合国安理会发言：AI安全、人类控制与国际合作

背景：AI议题登上联合国安理会

OpenAI首席执行官Sam Altman在联合国安理会发表讲话，围绕人工智能安全、人类对AI系统的控制权以及国际合作三大主题阐述观点。这一场合本身就颇具信号意义——安理会作为处理国际和平与安全事务的核心机构，将AI纳入议程，意味着这项技术已从产业话题上升为全球治理层面的关注焦点。

对于OpenAI这家处于生成式AI浪潮核心的公司而言，其掌门人在如此高级别的国际论坛发声，既是对外界安全担忧的回应，也是在争取参与规则制定的话语权。

AI安全：技术狂飙下的核心命题

Altman将AI安全放在发言的首要位置。随着大模型能力持续跃升，如何确保这些系统在部署过程中不产生失控风险、不被恶意利用，已成为业界与监管方共同关心的问题。

从OpenAI一贯的公开表态来看，安全并非只是技术层面的对齐（alignment）问题，还涉及模型滥用、虚假信息、网络攻击等现实威胁。在联合国这样的场合强调安全，实质上是在向各国政府传递一个信息：AI的风险具有跨境属性，单一企业或国家难以独自应对。

**对齐（alignment）**是AI安全领域的核心技术概念，指确保AI系统的行为目标与人类意图保持一致的研究方向。随着大模型能力增强，模型可能产生"目标偏移"——即以表面上合理的方式实现目标，却违背人类真实意图。对齐研究涵盖奖励建模、强化学习与人类反馈（RLHF）、可解释性等多个子方向。OpenAI设有专门的对齐研究团队，但批评者指出，商业化压力与安全研究之间存在结构性张力：更强大的模型能带来更多收入，但也可能放大对齐失败的风险。这也是为何业界将对齐问题区别于滥用、虚假信息等"当下威胁"——前者针对的是模型能力本身可能带来的系统性失控，而非具体的恶意使用场景。

人类控制权：谁来决定AI的边界

发言中另一条主线是"人类控制"（human control）。这一概念指向一个根本性问题——在AI能力不断增强的情况下，如何保证人类始终掌握最终决策权，尤其是在涉及关键基础设施、军事和安全等敏感领域。

将"人类控制"置于安理会语境下讨论，天然带有对自主武器系统、AI辅助决策等议题的呼应。虽然原始素材未展开具体细节，但这一表态延续了国际社会对"有意义的人类控制"（meaningful human control）原则的长期讨论，即任何高风险AI应用都应保留人类干预和问责的能力。

**有意义的人类控制（Meaningful Human Control，MHC）**这一原则最初源于自主武器系统的国际讨论，由非政府组织和学术界在2010年代提出，核心主张是：在涉及生死或重大后果的决策中，人类不能仅是名义上的"橡皮图章"，而必须真正理解、能够干预并为决策承担法律责任。将这一标准迁移至民用AI领域面临新挑战：当AI辅助医疗诊断、司法判决或金融风控时，决策链条拉长、算法逻辑难以解释，"人类控制"往往流于形式。如何在系统设计层面而非仅靠政策声明来保障MHC，是当前AI治理的技术与制度双重难题。

国际合作：治理框架的必答题

Altman呼吁国际合作，这与AI治理的全球性特征一脉相承。AI技术不受国界限制，模型、算力和数据在全球范围内流动，任何单边监管都可能因"监管套利"而失效。

在安理会推动国际协作，反映出一种共识正在形成：AI治理需要类似核不扩散、气候变化等领域的多边机制。对于企业而言，参与国际规则制定既能降低合规碎片化带来的成本，也有助于在潜在的全球标准中占据有利位置。

**监管套利（Regulatory Arbitrage）**指企业或个人利用不同司法管辖区之间的监管差异，将业务迁往监管更宽松的地区以规避约束。在AI领域，这一问题尤为突出：模型训练可在数据保护法宽松的地区进行，推理服务器可部署于监管空白地带，而用户则遍布全球。这与金融领域的离岸避税、互联网时代的内容审查规避逻辑相似。正因如此，单边或区域性AI法规（如欧盟《AI法案》）的实际效力存在争议——它们可以规范在本地运营的企业，却难以约束在境外开发、通过网络提供服务的模型。这也是Altman在安理会呼吁多边协调的现实依据：没有全球最低标准，严格监管反而可能将创新推向监管洼地。

值得关注的深层信号

这场发言的意义超出了具体内容本身。一位AI公司CEO登上联合国安理会讲台，标志着AI企业正从技术供应商转变为全球治理讨论的参与者。这一角色转变既带来影响力，也引发关于利益相关方中立性的讨论——企业的安全承诺与其商业利益之间如何平衡，是外界持续审视的焦点。

对普通读者和从业者而言，需要关注的是这些高层表态能否转化为可执行的规则与约束。安全、控制、合作三个关键词都指向同一个现实：AI的发展速度已经超过了现有治理框架的响应能力，弥合这一差距将是未来数年的重要议题。