桑德斯致信OpenAI等AI巨头：暂停开发否则立法监管

事件背景

近日，美国参议员伯尼·桑德斯（Bernie Sanders）向三位AI行业领军人物——OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）、Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei），以及Meta首席执行官马克·扎克伯格（Mark Zuckerberg）——发出了一封公开信，敦促他们"为了全人类的利益"立即暂停所有AI开发工作。

据Reddit社区流传的信息，桑德斯在信中态度明确：如果这些企业不主动采取"适当行动"，那么美国参议院将会介入，通过立法手段进行干预。这一表态在科技圈引发了广泛讨论。

需要说明的是，此消息目前主要在社交媒体平台传播，其具体措辞与真实性仍有待官方渠道进一步确认。但无论细节如何，这一话题本身反映出美国政界对AI快速发展的深切忧虑。

桑德斯作为美国参议院中最具左翼色彩的独立参议员之一，长期以来以批判大企业权力集中、倡导劳工权益和社会公平著称。他曾两次参加民主党总统初选（2016年和2020年），核心议题涵盖全民医保、最低工资和反垄断。将AI发展纳入其关注范畴，实际上是他一贯立场在技术领域的自然延伸——即当新兴技术可能加剧不平等时，政府有义务介入。

为何桑德斯选择这三家AI公司？

桑德斯选择的三个收信对象颇具代表性，几乎覆盖了当前生成式AI领域的核心力量。

OpenAI与Anthropic：前沿AI模型的推动者

OpenAI的GPT系列与Anthropic的Claude系列，代表着当前大语言模型能力的最前沿。这两家公司在通用人工智能（AGI）的探索上投入巨大，其模型能力的每一次跃升都会引发关于AI安全与失控的讨论。

OpenAI的发展历程本身就是一段充满争议的故事。它于2015年由山姆·奥尔特曼、伊隆·马斯克等人联合创立，最初定位为非营利性AI研究机构，使命是确保通用人工智能造福全人类。然而，随着训练大型模型所需的算力成本指数级攀升——GPT-4的训练成本据估计超过1亿美元——OpenAI于2019年转型为"有上限利润"（capped-profit）的混合结构，并接受了微软超过130亿美元的投资。这一转型引发了关于商业利益是否会侵蚀其安全承诺的持续质疑，也直接催生了部分核心成员的出走。

有意思的是，阿莫代伊本人也多次公开警示AI的潜在风险，Anthropic更是以"AI安全"为核心定位创立的公司。Anthropic的创立渊源与OpenAI有着密切关联：达里奥·阿莫代伊与其妹妹丹妮拉·阿莫代伊（Daniela Amodei）均为OpenAI前高管，据报道正是因为在AI安全理念和研发节奏上与OpenAI管理层产生分歧，才于2021年率领一批研究人员离职创办了Anthropic。该公司提出了"Constitutional AI"（宪法AI）的技术路线——通过预先定义一套价值准则来指导AI的行为，而非单纯依赖人类反馈来进行微调。这种方法试图从架构层面嵌入安全机制，使得AI系统能够自我约束。尽管Anthropic以安全著称，但它同样在快速推进模型能力的边界，这也让桑德斯的信对其具有特殊的讽刺意味。

所谓通用人工智能（AGI），是指具备与人类同等甚至超越人类水平的通用认知能力的AI系统。与当前的"窄AI"（只能在特定任务上表现出色）不同，AGI理论上可以学习和执行人类能做的任何智力工作。目前学界和产业界对AGI是否能在近期实现存在巨大分歧，但OpenAI已明确将实现AGI作为公司使命，奥尔特曼也多次暗示AGI可能比多数人预期的更早到来。正是这种雄心引发了监管者的高度警觉。

Meta：AI开源路线的代表

扎克伯格领导的Meta则走了一条不同的道路——通过Llama系列模型推动开源生态。开源虽然降低了技术门槛、促进了创新，但也意味着强大的AI能力更难被集中管控，这正是监管者所担忧的另一个维度。

Meta的Llama（Large Language Model Meta AI）系列模型自2023年发布以来，已经成为开源AI生态中最具影响力的项目之一。从Llama 1到Llama 2再到Llama 3及后续版本，其性能持续逼近甚至在某些基准测试上追平了GPT等闭源模型。Meta选择开源策略有多重考量：一方面，扎克伯格公开表示，开源能够汇聚全球开发者的力量来改进模型，类似于Linux对操作系统生态的改变；另一方面，开源也是Meta对抗OpenAI和Google等竞争对手的差异化策略——通过让Llama成为行业标准，Meta可以在AI基础设施层面建立生态影响力，即使不直接从模型本身获利。

然而，开源AI带来的监管挑战是独特的。一旦模型权重被公开发布，任何人都可以下载、修改和部署，这意味着即便原始开发者设置了安全护栏，第三方也可以通过微调移除这些限制。例如，开源社区已经出现了专门去除安全限制的"越狱"版本模型。这使得开源AI在赋能创新的同时，也为恶意使用（如生成虚假信息、辅助网络攻击等）提供了更低的门槛。对于监管者而言，闭源模型至少可以通过约束开发公司来间接管控，而开源模型一旦释出便如"泼出去的水"，管控难度呈几何级增长。

将这三家纳入同一封信中，实际上是在向整个AI行业发出信号：无论是闭源还是开源，无论安全立场如何，快速推进的AI研发都需要接受更严格的审视。

政界与AI产业的核心分歧

这封信折射出的，是一场关于"发展速度"与"安全边界"的根本性辩论。

桑德斯长期以来关注技术进步对普通劳动者的影响。AI引发的就业替代、财富进一步向科技巨头集中、算法权力缺乏制衡等问题，都是他一贯批判的方向。要求"暂停开发"的呼吁，本质上延续了2023年由生命未来研究所（Future of Life Institute）发起的"暂停大型AI实验"公开信的思路。

这封2023年3月发布的公开信是AI治理史上的标志性事件。信中呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少六个月，以便全行业和社会有时间制定共享的安全协议。该信获得了包括伊隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、AI先驱约书亚·本吉奥（Yoshua Bengio）以及数千名AI研究人员和科技界人士的联署。生命未来研究所（FLI）本身是一家由Skype联合创始人贾恩·塔林（Jaan Tallinn）等人资助的非营利机构，专注于降低人类面临的存在性风险。

然而，这封公开信也引发了激烈争议。批评者指出，六个月的暂停期缺乏可执行性——没有任何机构有权力强制执行这一暂停，而且已签署的企业高管事后并未真正放缓研发节奏（包括马斯克本人很快创立了自己的AI公司xAI）。也有观点认为，暂停论的真正效果是制造恐慌叙事，而不是提供可操作的解决方案。不过，这封信成功地将AI安全议题从学术圈推向了主流公共讨论，直接推动了多国政府加快AI监管的立法进程。桑德斯的这封新信，可以视为这一思潮在政治行动层面的延续。

然而，产业界对此类呼吁通常持保留态度。一个普遍的反驳观点是：单方面暂停既不现实也无效——如果美国企业停下脚步，全球竞争对手（尤其是其他国家的AI实验室）不会因此止步，最终反而可能削弱本国在关键技术上的主导权。这种"竞赛逻辑"是当前AI监管难以推进的最大障碍之一。

这种竞赛逻辑并非空穴来风。在地缘政治层面，AI已被普遍视为决定未来国家竞争力的核心技术。中国在AI领域的快速追赶——从百度的文心一言到阿里的通义千问，再到DeepSeek等新兴力量——使得美国科技界和政策圈对"暂停"的抵触情绪更为强烈。美国政府自身也在推行矛盾的双轨策略：一方面通过芯片出口管制限制竞争对手获取先进AI算力，另一方面又在国内鼓励AI研发投入。在这种大国博弈的背景下，任何单方面的减速都会被解读为战略上的自我削弱，这也是为什么产业界的游说力量在AI监管议题上格外强大。

AI立法威胁的现实意义

桑德斯"参议院将出手"的警告，值得单独讨论。

从美国的政治现实来看，全面暂停AI开发的立法几乎不可能通过——这既缺乏两党共识，也面临巨大的产业游说压力。因此，这一表态更可能是一种施压姿态，意在推动企业主动承担更多社会责任，或为后续更温和的AI监管框架（如强制安全测试、透明度披露、算力申报等）铺路。

这里提到的几种具体监管手段值得进一步解释。强制安全测试（又称"红队测试"）是指在AI模型发布前，由独立团队对其进行系统性的攻击测试和风险评估，类似于药品上市前的临床试验。透明度披露要求企业公开模型的训练数据来源、已知局限性和潜在风险，让下游使用者和公众能够做出知情判断。算力申报则是一个较新的监管思路——由于训练大型AI模型需要消耗巨量的计算资源（通常以GPU运算量衡量），政府可以通过要求企业申报超过特定阈值的训练活动来追踪前沿AI的开发进展。这些措施相比"全面暂停"更具可操作性，也更可能获得两党支持。

事实上，全球范围内的AI立法正在加速：欧盟的《AI法案》已经落地，美国各州也在陆续出台针对性法规。桑德斯的这封信，可以看作是这股监管浪潮在联邦层面的又一次发声。

欧盟的《人工智能法案》（EU AI Act）于2024年正式通过，是全球首部全面性的AI监管法律。其核心框架采用风险分级制度：将AI应用按风险等级分为四类——不可接受风险（如社会信用评分系统，直接禁止）、高风险（如用于医疗诊断、司法判决、招聘筛选的AI，须满足严格合规要求）、有限风险（如聊天机器人，须告知用户其正在与AI交互）以及最小风险（如垃圾邮件过滤器，基本不受限制）。对于通用AI模型（如GPT、Claude等），法案还专门增设了条款，要求开发者进行模型评估、报告严重事件并确保网络安全。违规企业可面临最高3500万欧元或全球年营收7%的罚款。

相比之下，美国联邦层面至今尚未通过统一的AI立法。不过，各州正在积极填补这一空白：加利福尼亚州曾提出备受争议的SB 1047法案（最终被州长否决），试图要求大型AI模型开发者进行安全评估并承担法律责任；科罗拉多州通过了针对AI算法歧视的法律；纽约市则已实施针对AI招聘工具的审计要求。在国际层面，中国也已出台了包括《生成式人工智能服务管理暂行办法》在内的一系列AI治理规定，采取了比西方更具干预性的监管模式，要求生成式AI服务必须通过安全评估才能上线。这种全球范围内监管路径的分化，本身也构成了国际协调的障碍。

围绕AI暂停开发的关键问题

对于关注AI发展的读者而言，这一事件带来了几个值得深入思考的方向：

• 暂停AI开发是否可行？ 在全球化竞争的背景下，单一国家或企业的暂停几乎无法起到实质效果，问题的关键在于建立可执行的国际协调机制。目前已有一些初步的国际协调尝试。2023年11月，英国主办了首届全球AI安全峰会（AI Safety Summit），28个国家签署了《布莱切利宣言》（Bletchley Declaration），承认前沿AI可能带来严重风险并同意开展国际合作。随后，韩国和法国分别主办了后续峰会。然而，这些宣言目前仍停留在意向层面，缺乏约束力和执行机制。与核不扩散条约或气候变化巴黎协定相比，AI领域的国际治理仍处于极其早期的阶段——主要困难在于AI技术的双用途属性（民用和军用难以清晰区分）、发展速度远快于外交谈判节奏，以及各国在AI战略利益上的深刻分歧。

• 谁来定义AI安全标准？ 是由企业自律，还是由政府监管，抑或第三方独立机构评估？不同路径的可信度差异巨大。目前三种路径都在同步推进：企业层面，OpenAI设立了安全系统团队，Anthropic建立了负责任扩展政策（Responsible Scaling Policy），Google DeepMind也有自己的安全框架；政府层面，美国成立了AI安全研究所（AISI），英国也设立了类似机构；第三方层面，NIST（美国国家标准与技术研究院）正在制定AI风险管理框架，MLCommons等组织也在开发AI安全基准测试。但核心矛盾在于：企业自律存在利益冲突（球员兼裁判），政府监管面临技术理解不足和监管俘获的风险，而第三方机构则缺乏强制执行力。

• AI发展与治理如何平衡？ 完全停滞会错失技术红利，放任自流又可能带来不可逆的风险，找到中间地带是所有相关方共同的难题。

结语

无论这封信的最终真实性与影响力如何，它都触及了AI时代最核心的张力：技术进步的巨大潜力，与其可能带来的社会风险之间的博弈。桑德斯的呼吁未必会真正促成AI开发暂停，但它再次将AI治理这一议题推到了公众视野的中心。

在可预见的未来，围绕AI监管的政企博弈只会愈演愈烈。对于身处这场变革中的每一个人来说，理解这些争论背后的逻辑，或许比关注某一次表态本身更为重要。

核心要点