[控场AI]
· 4 分钟阅读· 2,251 字

Abdul El-Sayed力挺AI暂停:呼吁中美签订国际条约

Abdul El-Sayed力挺AI暂停:呼吁中美签订国际条约

El-Sayed 支持全面暂停前沿 AI,并主张与中国签订核式国际条约。

美国政治人物 Abdul El-Sayed 公开支持 Bernie 的 AI 暂停主张,提出对前沿 AI 研发实施"全面暂停",把研发节奏本身当作可调控的政策变量,而非仅靠对齐与评测来降低风险。针对"中国不暂停怎么办",他认为中国当前强项多在技术扩散而非前沿突破,所谓前沿研究多为对美国模型的模仿,但同时也承认追赶终将发生,暂停的价值在于争取时间建立规则而非维持领先。解决方案指向国际条约:参照核技术管控经验与中国合作,防止 AI 进入递归自我改进的失控阶段。文章指出其在条约可验证性与"模仿为主"判断上存在可质疑之处,但肯定其把暂停推入主流政治话语的意义。

Abdul El-Sayed is the Pause AI candidate

美国政治人物 Abdul El-Sayed 近日公开表态支持 Bernie 提出的 AI 暂停主张,并将其延伸为一个更具国际视野的框架:美国应当主动放缓前沿 AI 研发,同时与中国等国家签订类似核技术管控的国际条约。这一立场在 Reddit 社区引发讨论,被认为是在当前 AI 竞赛叙事中少见的"主动减速"路线。

核心主张:全面暂停前沿研发

在流传的访谈文字记录中,El-Sayed 被问及"企业不断推进的前沿领域该怎么办"时,回答非常直接:"我们需要限制它。全面暂停。"他没有为"暂停"附加条件式的缓冲表述,而是将其作为政策目标本身提出。

这一表态的语境值得注意。当前主流讨论多聚焦于"如何安全地加速",即通过对齐研究、评测体系、部署门槛等手段降低风险,而 El-Sayed 的立场是把研发节奏本身当作可调控变量。这与 Bernie 此前提出的 AI 暂停主张形成呼应,也让 El-Sayed 在舆论中被贴上"Pause AI 候选人"的标签。

前沿 AI 研发通常指在模型能力边界上推进的工作,如更大规模预训练、新架构探索、自主智能体与递归自我改进等,区别于把已有能力产品化、部署化的应用层研发。AI 对齐研究则试图让模型目标与人类意图一致,常见手段包括基于人类反馈的强化学习、可解释性分析与红队评测。主流"安全加速"路线认为,对齐与评测的进步可以快于能力增长,从而在推进的同时控制风险;"暂停"路线则质疑这一假设,主张在规则与验证机制建立前先冻结能力前沿。两种路线的分歧不在于是否重视安全,而在于把研发节奏本身视为可调控的政策变量,还是视为应由技术治理间接约束的对象。

回应"中国不暂停怎么办"

暂停主张最常见的反驳是:如果美国停下而中国继续,等于单方面让出优势。El-Sayed 对这个问题的回应分两层。

第一层是对中国前沿能力的判断。他认为中国相当一部分所谓"前沿研究"实际上是在模仿美国模型——他用了一个滑水比喻:船加速拖拽滑水者,看起来滑水者始终紧跟,但紧跟的原因恰恰是被船拖着走。在他看来,中美之间的差距被这种"被拖拽"的表象放大了,中国当前的强项更多在于技术扩散而非前沿突破。

第二层是对长期趋势的承认。他坦言滑水者"最终能游泳追上",甚至"跳上摩托艇"赶上来。也就是说,暂停带来的窗口期是有限的,不能把"对方追不上"当作永久前提。这一点让他的论证比单纯的"领先论"更诚实:暂停的价值不在于维持差距,而在于争取时间建立规则。

技术扩散指已有技术通过论文、开源模型、人才流动与产品输出等方式向外传播,其速度通常远快于前沿突破。这一区分是评估追赶速度的关键:扩散能让后来者快速达到接近前沿的水平,但继续向前推进仍需原创能力。文中的滑水比喻正对应这一机制——落后方看似紧跟,部分原因是前方在拉动整体水位。不过,扩散与突破并非截然二分:大规模应用与工程优化常反过来催生新方法,因此"以扩散为主"的判断只能描述某一时点的结构,而不能保证差距持续存在,这也是暂停论证必须依赖时间窗口而非永久领先的原因。

国际条约:把 AI 当作核技术来管

El-Sayed 的解决方案指向国际条约。他明确表示"我们需要和中国合作",理由不是地缘政治博弈,而是共同的人类利益:"中国人和我们一样都是人",没有人希望看到 AI 进入递归自我改进的失控阶段。

他用《幻想曲》中扫帚自动复制、不断增殖的场景作比喻——那正是"魔法师学徒"式的失控:一旦启动就难以收回。他称这是"潘多拉魔盒",一旦 AI 远超人类控制,后果对任何国家都不是好事。

因此他主张参照核能等"可能危及人类的技术"的管控经验,建立跨国协作机制,把重心放在保护人类而非微观层面的竞争激励上。这一类比有其合理处:核不扩散体系确实建立过核查、通报、限制的框架;但 AI 模型无法像核材料那样被物理计量和边境拦截,条约的可验证性是这一主张面临的最大现实难题。

核不扩散体系的核心可验证性来自材料本身的物理属性:铀与钚的同位素特征可被测量,离心机与反应堆可被卫星与现场核查识别,国际原子能机构的保障监督正是建立在这些可计量指标之上。AI 模型则不同——权重是数字文件,可压缩、可复制、可经网络跨境传输,训练也可在分散的算力集群上完成,难以像核材料那样在边境或设施层面被拦截和清点。因此军控界讨论的替代方案多集中在算力阈值申报、训练运行通报、芯片出口管制与模型部署后的行为评测,但这些机制验证的是投入与行为而非能力本身,规避空间较大。这正是 AI 条约类比最受质疑之处。

争议与观察

从公开讨论看,El-Sayed 的立场至少存在两个可质疑之处。其一,"中国研究主要是模仿"的判断缺乏公开证据支撑,且与其后文"对方终将追上"的承认存在一定张力——如果追赶是必然的,那么以"对方暂时落后"为前提的暂停论证就需要重新组织。其二,国际条约的落地路径未展开,核类比在可验证性上的差异也未回应。

不过,这一表态的意义在于把"暂停"从边缘主张推入主流政治话语,并且给出了一个不依赖"美国优先"的论证版本:暂停不是认输,而是为国际合作争取制度空间。在 AI 竞赛叙事占据主导的当下,这种声音的传播本身值得关注。

#Abdul El-Sayed#AI暂停#AI国际条约#中美AI竞赛#AI监管#前沿AI研发
分享:

相关推荐