[控场AI]
· 4 分钟阅读· 2,389 字

Anthropic鼓吹AI降速:闭源与开源之争的背后逻辑

Anthropic鼓吹AI降速:闭源与开源之争的背后逻辑

Anthropic等闭源巨头以AI安全为名推动"降速"与反开源叙事,背后藏着商业垄断与地缘政治博弈。

本文分析了近期Anthropic联合多家美国AI公司发起的"AI降速"倡议,指出其表面是安全忧虑,实则与闭源商业利益、地缘政治竞争高度捆绑。文章梳理了闭源阵营的逻辑链条——以"AI失控风险"为由,主张技术应由少数"有道德"的闭源公司集中管控,并将DeepSeek等中国开源模型的崛起定性为安全威胁。作者指出,开源本身并不等同于不安全,而闭源巨头既是竞争者又充当规则制定者的"双重身份"令其动机存疑。真正的AI治理应建立在透明、多方参与的规则之上,而非将控制权交给自我标榜有道德的少数机构。

一场关于AI速度的争论

近期一则新闻在AI圈引发热议:以Anthropic为代表的美国AI公司发起联合声明,呼吁对AI的迭代节奏进行"降速"。据B站UP主的解读,这份声明不仅有Anthropic参与,OpenAI的奥特曼以及马斯克也被指卷入其中。声明的核心论调是——AI发展太快、太恐怖,人类需要主动放慢脚步,规避技术失控可能带来的风险。

AI会对这个世界带来什么

表面看,这是一份出于责任感的行业自律倡议。但如果结合Anthropic及其背后人物的一贯立场,这场"降速运动"的动机就没有那么单纯了。

闭源阵营的核心主张

视频中提到,Anthropic方面(原文将达里奥·阿莫代与达利奥的表述混杂)长期鼓吹一个观点:AI必须掌握在美国、掌握在少数"有道德"的闭源公司手中。理由是其他国家可能滥用AI,只有闭源的、受控的AI公司才能真正约束AI的泛滥。

说AI现在太恐怖了

这种论述的逻辑链条大致是:AI能力过强 → 存在毁灭人类的风险 → 需要少数精英掌控 → 闭源模型才能实现掌控 → 因此闭源优于开源。在这套叙事里,"降速"和"闭源"被包装成保护人类的道德选择。

问题在于,把技术安全与商业垄断、地缘政治绑定在一起,很难让人相信这是纯粹的伦理考量。当"为人类着想"恰好与"由我们控制"高度重合时,动机的纯粹性就值得打上问号。

矛头指向中国开源模型

这场争论的另一条主线,是对中国AI公司的指责。据视频转述的相关文章观点,DeepSeek广告、Kimi(月之暗面)、阿里等中国公司被指控"蒸馏"(distillation)美国公司的AI模型——也就是通过美国模型的输出来训练自己的模型,从而快速追赶。

说中国的DeepSeek

更关键的分歧在于路线选择:中国公司走的是开源路线,而美国头部公司多走闭源路线。闭源阵营的论点是——开源模型一旦公开,就可能被"坏人"掌握,因为开源方并未对AI能力施加足够限制,从而带来安全隐患。

而中国这些什么

这实际上把技术开放性直接等同于安全风险,进而推导出"闭源才是最好"的结论。这一逻辑跳跃很大,也是整场争论中最具争议的地方。

模型蒸馏(Knowledge Distillation) 是深度学习中一种将"教师模型"的知识迁移到"学生模型"的技术。具体做法是:用大型教师模型对大量输入生成输出(包括概率分布、中间表征等),再以这些输出作为监督信号训练一个更小或独立的学生模型。学生模型并不直接复制权重,而是学习教师模型的"行为模式"。这一技术在AI领域广泛合法使用,Meta、谷歌等公司均有公开研究成果。

争议的核心在于边界认定:若使用封闭商业模型的API输出来训练竞争产品,是否构成对服务条款的违反乃至知识产权侵占,目前法律层面尚无定论。OpenAI等公司的服务协议通常明确禁止"利用输出训练竞争模型",但技术层面的举证极为困难。将蒸馏行为直接定性为"窃取"或"安全威胁",在法律和技术上均是存在争议的表述。

开源与闭源之争的真实张力

开源与闭源的路线之争,本质上是两种价值观的碰撞:

  • 闭源阵营强调可控性与安全性,主张由少数机构集中管理前沿模型,避免能力扩散。
  • 开源阵营强调透明、普惠与技术民主化,认为开放能加速创新、降低门槛,也让更多人得以审视和监督AI。

值得警惕的是,"安全"这一议题正被越来越多地用作商业和政治工具。当一家闭源公司同时是市场竞争者,又是"降速"和"安全标准"的倡议者时,它既当运动员又当裁判员。DeepSeek等开源模型之所以引发焦虑,很大程度上并非单纯的安全问题,而是因为它们以极低的成本打破了闭源巨头的技术壁垒和商业护城河。

开源模型的崛起证明了一件事:先进AI并非只能由少数公司掌控。这恰恰动摇了"必须闭源才能安全"的叙事根基。

理解这场争论还需要了解AI安全(AI Safety) 领域内部的派系分歧。Anthropic的创始团队大多来自OpenAI,深受"有效利他主义(Effective Altruism)"思想影响,其核心忧虑是"超级智能对齐失败"——即未来某个远超人类的AI系统无法被有效约束,从而造成存在性风险(existential risk)。这一关切催生了"AI必须慢下来、必须集中管控"的政策主张。

然而,AI安全学界内部对此存在重大分歧。另一派学者认为,将前沿能力集中于少数公司反而会降低透明度,使外界无法独立评估风险;开放研究才能让更广泛的安全研究社区介入审查。两派在"集中管控 vs. 分布式监督"这一根本问题上长期对立,这为判断Anthropic的倡议究竟是真诚的安全关切还是政策工具提供了必要背景。

如何看待这场争论

对于普通用户和从业者而言,需要保持独立判断:

第一,"AI降速"倡议中确实包含合理的安全关切,AI的快速迭代带来的伦理、就业、滥用风险是真实存在的,不应全盘否定。

第二,也要看清倡议者的利益结构。当降速呼吁恰好有利于领先者巩固地位、压制后来者时,其中的商业动机不容忽视。

第三,开源本身并不等于不安全,闭源也不等于绝对可控。真正的AI治理,需要的是透明、多方参与的规则,而非把控制权交给自称"有道德"的少数公司。

这场围绕降速、闭源与开源的争论,远不止是技术路线之争,更是关于AI未来由谁定义、由谁掌控的话语权博弈。

分享:

相关推荐