致Dario的公开信：AI安全若当真，请开放模型权重

一封写给Anthropic CEO的公开信

近日，开发者Jacob在个人博客发布了一封致Anthropic CEO Dario Amodei的公开信，标题直白而犀利：《如果你是认真的，就开放权重》（if you mean it, open the weights）。这篇文章迅速登上Hacker News热榜，获得190点赞和61条讨论，触及了当下AI行业最敏感的一根神经——安全叙事与商业闭源之间的张力。

文章的核心质问围绕一个逻辑展开：Anthropic长期将自己定位为最重视AI安全的前沿实验室，Dario本人也多次公开表达对超级智能潜在风险的担忧。既然如此，作者认为，真正贯彻安全理念的做法应当是让更广泛的研究社区能够审查、检验和理解这些强大模型的内部机制，而这需要开放模型权重。

安全承诺与闭源现实的矛盾

这封信触及的是AI治理讨论中反复出现的一组悖论。以Anthropic为代表的头部实验室，一方面强调AI可能带来生存级风险、呼吁监管与审慎，另一方面却将最强模型的权重牢牢锁在公司内部，仅通过API对外提供服务。

作者的论点在于：如果一个模型真的危险到需要格外小心，那么把安全研究的能力集中在少数商业公司手中，反而是最不安全的安排。安全研究依赖于可复现性和外部审查，闭源意味着外部研究者只能对着黑箱猜测，无法真正验证对齐（alignment）方案是否有效。这与开放科学的传统背道而驰。

换个角度看，这也是对"安全"话语被商业利益收编的一种警惕。当"AI太危险所以必须闭源"成为默认叙事时，安全理由恰好与保护商业护城河的动机完美重合，外界很难分辨究竟哪个才是真实驱动力。

Hacker News社区的分歧

从61条评论的讨论热度看，这个议题在技术社区内部远未达成共识，反而呈现出明显的两极分化。

支持开放的一方认同作者的基本逻辑：真正的安全来自透明和分布式审查，而非中心化管控。他们援引开源软件的历史经验——更多人能够检视代码，漏洞才能被更快发现和修补。将这一逻辑套用到模型权重上，开放理应带来更强的集体监督能力。

反对或持保留意见的一方则指出，模型权重与传统软件源码存在本质差异：权重一旦公开便无法收回，也无法像打补丁那样修复，任何潜在的滥用能力都会被永久释放到公众手中。对于具备危险能力的前沿模型，这种"不可逆性"使得开放的风险收益计算与普通开源截然不同。这也正是Anthropic等公司为闭源辩护时最常搬出的理由。

这场争论没有简单答案，它实际上指向了一个更深层的问题：我们究竟更担心"权力过度集中在少数AI公司"，还是更担心"危险能力被无差别扩散"？不同的风险优先级，会导出完全相反的政策主张。

这封信为何值得关注

抛开具体立场，这封公开信的价值在于它把一个常被含糊带过的矛盾摆到了台面上，并要求当事方给出一致的行动。

对于整个AI行业而言，这类质问越来越难以回避。随着开源模型（如Meta的Llama系列、以及众多社区模型）不断缩小与闭源前沿模型的能力差距，"闭源=安全"的论证正面临持续挑战。如果开放模型并未导致灾难性后果，那么闭源实验室就需要更有说服力的理由，来解释自己的选择究竟是出于安全，还是出于竞争。

作者最终并未真正期待Anthropic会开放权重，这封信更像是一种修辞策略：通过要求对方"言行一致"，来揭示安全叙事背后可能存在的双重标准。无论你是否认同作者的结论，它都提出了一个值得每一位关心AI治理的人认真思考的问题——我们如何区分真实的安全考量与被包装成安全的商业策略？

小结

这场围绕开放权重的辩论，本质上是AI时代关于透明、权力与信任的缩影。安全不应成为回避外部监督的挡箭牌，但危险能力的不可逆扩散同样不能被轻描淡写。在开源与闭源之间，行业仍需要在实践中不断校准边界，而这封公开信恰好为这场校准提供了一个尖锐的起点。