Anthropic究竟想要什么？解读超越AI公司的野心与布局

一个耐人寻味的追问

近日，一则来自Reddit的讨论帖引发了关于Anthropic真实动机的深度思考。发帖者提出了一个尖锐的观察：Anthropic或许早已不再是一家单纯的AI公司。

从表面上看，Anthropic与OpenAI、Google DeepMind一样，都在追逐通用人工智能（AGI）的技术前沿。AGI是指具备与人类同等甚至超越人类水平的通用认知能力的AI系统，能够在几乎任何智力任务上表现出色，而非仅限于特定领域。当前的大语言模型虽然表现惊人，但在真正的自主推理、长期规划方面仍有局限，因此AGI仍是行业共同追逐的"圣杯"。一旦实现，它将带来前所未有的生产力革命，同时也伴随着难以预测的风险——包括经济结构重塑、就业市场颠覆，乃至对人类自主权的根本挑战。

但仔细审视Anthropic这家公司的行为模式，会发现一些不同寻常的信号——它在招聘中设置严格的"文化/价值观"面试来筛选意识形态契合者，主动咨询宗教领袖（包括基督教及跨信仰峰会）讨论Claude的"道德养成"，在公开演讲中大谈文明的未来，并投入大量资源进行政策游说。

这些行为拼凑起来，勾勒出一个远超普通科技实验室的图景。正如原帖作者所言，这更像是一个"政治-技术项目"——一个不仅想塑造技术本身，更想塑造后AI时代世界的价值观、规则与权力结构的宏大计划。

从技术公司到"价值工程"：Anthropic的转变

要理解Anthropic的行为逻辑，首先需要回溯其创始背景。Anthropic由Dario Amodei和Daniela Amodei兄妹于2021年创立，核心团队大多来自OpenAI。他们离开的直接原因是对OpenAI在安全问题上的优先级排序产生了根本分歧——特别是在OpenAI从非营利组织转型为"有上限利润"公司、并与微软达成数十亿美元合作之后，部分研究者认为商业利益正在侵蚀安全研究的独立性。

这次分裂的深度远超表面的理念分歧。2020年GPT-3发布后，OpenAI内部围绕模型发布策略产生了激烈争论——部分研究者主张更谨慎的分阶段发布，而管理层倾向于快速商业化以支撑与微软的合作承诺。Dario Amodei当时担任OpenAI研究副总裁，他带走的团队包括多位核心安全研究者，如Tom Brown（GPT-3第一作者之一）、Chris Olah（可解释性研究先驱）和Jared Kaplan（Scaling Laws论文作者）。这次"出走"几乎带走了OpenAI安全研究的核心力量，也为Anthropic后来在Constitutional AI和机械可解释性方面的突破奠定了人才基础。

Anthropic成立后将自己定位为"AI安全公司"，其公益公司（Public Benefit Corporation, PBC）的法律结构要求公司在追求利润的同时考虑社会影响。PBC是美国特拉华州2013年引入的一种公司形态，要求董事会在做决策时平衡股东利益与公共利益。与传统C-Corp不同，PBC的董事不会因为优先考虑社会使命而被股东以违反信义义务为由起诉。然而PBC并非非营利组织，它仍然可以分配利润、进行融资。

Anthropic选择这一结构，理论上为其"安全优先于利润"的承诺提供了法律护盾。但批评者指出，PBC的"公共利益"定义高度模糊，缺乏强制性的外部审计机制，公司在实践中拥有极大的自由裁量权来定义什么构成"公共利益"。值得注意的是，PBC结构在AI行业并非孤例——OpenAI虽然采用了不同的"有上限利润"架构，其从非营利转为营利的尝试引发了更大争议，加州总检察长于2024年介入审查；xAI则选择了传统的C-Corp结构。这三种不同的组织形态反映了AI行业在"如何平衡使命与商业"这一问题上的根本分歧。更值得关注的是，Anthropic已完成超过70亿美元的融资（截至2024年），其估值超过180亿美元。当投资者——包括Google、Salesforce和多家主权基金——投入如此规模的资本时，PBC结构能否有效抵御回报压力，仍然是一个未经验证的命题。

这一"出走叙事"赋予了Anthropic强烈的使命感基因，也为理解其后续一系列"非典型"行为提供了关键线索。

招聘中的意识形态筛选

一个值得注意的细节是Anthropic在招聘环节中进行的"价值观面试"。硅谷的"文化契合度"（culture fit）面试有着复杂的历史——这一实践最早被Google、Netflix等公司推广，初衷是确保新员工能融入团队协作文化。然而过去十年间它也饱受批评：批评者指出，"文化契合"往往成为同质化的代名词，导致组织缺乏多样性，并可能成为无意识偏见的合法化工具。一些公司（如Stripe）已转向"文化贡献"（culture add）的概念，强调新成员能带来什么独特视角。

但当一家公司将意识形态对齐作为核心筛选标准时，它实际上是在构建一个高度同质化的价值共同体。Anthropic的做法之所以引发特别关注，是因为它的"文化面试"被认为明确涉及对AI风险和伦理立场的筛选，这比一般的团队协作文化评估更具意识形态色彩。

理解这种价值观导向，不能忽视"有效利他主义"（Effective Altruism, EA）运动在AI安全领域的深远影响。EA是一个始于2000年代牛津大学的哲学与社会运动，主张用理性和证据来最大化慈善行为的影响。其中一个核心关切是"存在性风险"（existential risk），即可能导致人类灭绝或文明永久倒退的威胁，而超级智能AI被列为最重要的存在性风险之一。Anthropic的多位创始成员与EA社区有密切联系，公司早期投资者中也包括EA相关基金。这一思想背景解释了为何Anthropic将AI安全视为关乎人类存亡的使命而非单纯的工程问题，但也引发了争议：2022年FTX崩溃事件——其创始人Sam Bankman-Fried是EA运动的著名支持者，也是Anthropic的早期投资人——暴露了EA圈子中"以善之名行事"可能带来的道德风险。

背后的逻辑不难理解：如果你相信自己正在开发的技术可能重塑人类文明，那么让参与者在价值观上保持一致，就成了一种"内部安全机制"。但这也带来一个隐忧——一个价值观高度统一的组织，是否会在关键决策上缺乏多元视角的制衡？群体思维（groupthink）的风险在高压环境中尤为突出。这一概念由心理学家Irving Janis在1972年提出，源于对猪湾事件等重大决策失败的研究，描述的是高凝聚力群体为维护内部和谐而压制异见的倾向。而AI安全恰恰是一个需要对抗性思维和红队测试精神的领域——如果团队中所有人都共享相同的世界观和风险评估框架，那么系统性盲点就可能在共识中被掩盖。

咨询宗教领袖背后的深意

更令人意外的是，Anthropic据称主动与宗教领袖接触，探讨Claude的"道德养成"（moral formation）问题。这一举动超出了传统AI伦理讨论的范畴，但在更广阔的历史背景下并非完全没有先例。2020年，梵蒂冈发起了"罗马关于AI伦理的呼吁"（Rome Call for AI Ethics），微软和IBM均为首批签署者；2023年，教皇方济各在G7峰会上首次就AI议题发表演讲。科技与宗教的对话正在成为一个新兴的交叉领域。

通常AI安全研究聚焦于对齐（alignment）、可解释性、鲁棒性等技术问题。AI对齐是AI安全领域的核心研究方向，旨在确保AI系统的行为与人类意图和价值观保持一致。这个问题之所以困难，在于它涉及多个层面：首先是"外层对齐"（outer alignment），即如何准确定义我们希望AI优化的目标；其次是"内层对齐"（inner alignment），即如何确保AI在训练后真正按照设定目标行事，而非发展出意外的子目标。

这里还涉及AI对齐领域一个更深层的技术挑战——"可扩展的监督"（Scalable Oversight）。当AI系统在专业能力上接近甚至超越人类时，人类如何有效评估和纠正AI的行为？这就是所谓的"超级对齐"难题。OpenAI曾专门成立超级对齐团队来攻克这一问题（该团队后因资源争夺于2024年解散，联合负责人Jan Leike随后加入了Anthropic），而Anthropic的策略则包括通过Constitutional AI让AI系统进行自我监督，以及通过引入多元价值观框架来丰富评估维度。咨询宗教领袖可以被理解为后者的一种实践——当技术手段不足以解决"什么是好的行为"这个根本问题时，转向人类积累最久的道德推理传统。

Anthropic在此领域的标志性贡献包括Constitutional AI（宪法AI）方法——通过让AI根据一组预设原则进行自我批评和修正，而非完全依赖人类反馈。具体而言，传统的RLHF（基于人类反馈的强化学习）需要大量人类标注者对AI输出进行评分，成本高昂且受标注者个人偏见影响。CAI的创新在于引入了一个两阶段流程：第一阶段让AI根据一组书面原则（"宪法"）对自己的输出进行批评和修正；第二阶段用AI自身的偏好（而非人类偏好）进行强化学习（RLAIF）。这套方法大幅降低了对人工标注的依赖，但核心问题在于：这部"宪法"由谁起草？目前它主要由Anthropic内部研究团队制定，参考了联合国《世界人权宣言》等文件，但这一过程既不透明也不具备民主合法性。

Anthropic在可解释性研究上同样取得了前沿突破，试图打开神经网络内部的"黑箱"。2024年，其机械可解释性（mechanistic interpretability）团队发表了关于大规模语言模型内部"特征"（features）的重要研究，使用稀疏自编码器（sparse autoencoders）从Claude模型中提取出数百万个可解释的概念单元——比如代表"金门大桥"、"欺骗行为"或"代码漏洞"的特定神经元激活模式。这项工作的意义在于，它首次证明了在工业级规模的模型中，内部表征是可以被系统性理解的。然而，从"理解单个特征"到"预测和控制模型的整体行为"之间仍存在巨大鸿沟，这也是可解释性研究面临的核心挑战。

而将宗教与信仰领袖纳入讨论，意味着Anthropic在思考一个更深层的命题：当AI系统需要做出道德判断时，它应当遵循何种价值体系？谁来定义"善"？ 全球主要宗教传统——无论是基督教的自然法理论、伊斯兰教的"公共利益"（Maslaha）原则，还是佛教的"不伤害"（Ahimsa）思想——都积累了数千年关于道德推理的框架。当AI需要在复杂伦理情境中做出判断（如医疗AI的资源分配、自动驾驶的"电车难题"等），纯粹的功利主义计算往往不够，而宗教与哲学传统提供了更丰富的道德语汇。这实际上触及了人类文明数千年来都未能达成共识的哲学与伦理问题，而Anthropic正试图将这些古老的智慧注入最前沿的技术之中。

政策游说与Anthropic的"文明叙事"

Dario Amodei对规则制定权的争夺

Anthropic在政策与游说方面的投入同样引人注目。AI行业的游说支出近年来急剧增长——根据OpenSecrets数据，2023年美国AI相关游说支出超过1亿美元，参与企业涵盖科技巨头和专业AI公司。Anthropic在华盛顿的存在感日益增强，不仅雇佣了专业游说团队，还积极参与白宫的AI安全承诺、商务部的AI标准制定，以及国会的多场听证会。

CEO Dario Amodei多次发表关于AI与人类文明未来的高调演讲，公司也在积极参与AI监管框架的讨论。值得注意的是，Anthropic的游说策略与其他科技公司有所不同——它通常倡导更严格的AI监管，这看似"自缚手脚"，但实际上可能是一种精明的竞争策略：更高的合规门槛有利于已经在安全研究上大量投入的公司，而对资源较少的竞争者形成壁垒。

Anthropic发布的"负责任的扩展政策"（Responsible Scaling Policy, RSP）是这一策略的具体体现。RSP定义了一套基于AI能力水平的分级安全框架（AI Safety Levels, ASL）：ASL-1对应当前不具备显著危险能力的系统；ASL-2对应当前的前沿模型；ASL-3及以上则对应可能具备自主复制、协助制造生物武器等危险能力的系统。每个级别都有对应的安全措施要求，只有在满足当前级别的安全标准后，公司才被允许训练可能达到下一级别的模型。这一框架后来被OpenAI的"准备框架"（Preparedness Framework）和Google DeepMind的"前沿安全框架"所借鉴，事实上成为了行业安全标准的模板——这正是批评者所担忧的：标准制定者同时也是被评估者。

这种"监管俘获"（regulatory capture）的可能性——即被监管的企业反过来影响和控制监管规则的制定——正是部分批评者所担忧的。这一概念由诺贝尔经济学奖得主乔治·斯蒂格勒在1971年提出，经典案例包括美国联邦航空管理局（FAA）与波音的关系——2019年737 MAX空难调查揭示FAA将大量安全认证工作委托给波音自身员工完成。在AI领域，这种风险尤为突出：监管者往往缺乏理解前沿AI系统所需的技术专业知识，不得不依赖被监管企业提供的信息和专家。Anthropic倡导的RSP虽然在行业内被视为安全标杆，但它本质上是企业自行制定的合规框架——这引发了一个根本性问题：当裁判员和运动员是同一个人时，规则的公正性如何保证？

这种深度介入政策制定的姿态，反映出Anthropic对"规则制定权"的高度重视。在AI技术快速发展的当下，谁能影响监管框架的形成，谁就能在未来竞争格局中占据有利位置。从商业角度看，这是理性的战略选择；但从更宏观的视角看，这也是一家公司试图将自身价值观制度化的努力。

"接生新世界"的隐喻

原帖作者用了一个极具画面感的表述——"midwife an entirely new world order"（接生一个全新的世界秩序）。这个比喻精准地捕捉到了Anthropic给外界的观感：它似乎不满足于制造更安全的AI模型，而是想主导后AI时代的诞生过程。

这种自我定位既是一种理想主义，也可能是一种傲慢。当一家私营公司认为自己有责任也有能力塑造整个文明的走向时，权力集中的风险便随之而来。

如何理性看待Anthropic的野心

使命驱动还是权力扩张？

对Anthropic动机的解读存在两种截然不同的框架：

乐观的解读： Anthropic真诚地相信强大的AI将带来存在性风险，因此必须由具备正确价值观的人来引导其发展。他们的种种"非典型"行为，都是出于对人类未来负责的使命感。这也是Anthropic创始团队从OpenAI出走时所秉持的"安全优先"理念的延续。

悲观的解读： 无论初衷多么高尚，一家掌握前沿技术、拥有明确意识形态、深度介入政策的公司，本质上是在积累一种超越传统商业的权力。科技公司试图超越商业边界影响社会秩序，在历史上并非没有先例：19世纪末的标准石油和卡内基钢铁不仅主导了各自的行业，还通过基金会、大学捐赠和政治游说深刻塑造了美国的社会结构。更近的例子是Facebook/Meta——2018年剑桥分析丑闻揭示了社交媒体平台对民主进程的深远影响。而AI公司的情况可能更为严峻，因为它们创造的不仅是产品或平台，而是可能具备自主决策能力的智能体——这意味着AI公司的价值观选择将被直接嵌入到技术的"行为"中，其影响的深度和持久性远超传统科技公司。历史反复证明，即便是善意的权力集中，也需要外部监督与制衡。

值得所有人持续追问的问题

无论持何种立场，Anthropic的案例都提出了一个重要问题：当技术公司的抱负超越了商业范畴，触及价值观塑造与秩序构建时，社会应当如何回应？

我们需要的或许不是简单的赞美或指责，而是清醒的观察与持续的追问：

• 谁在为AI的"道德"负责？当Constitutional AI的原则由一家公司的研究团队制定时，这些原则的合法性基础是什么？
• 这种责任是否应当集中在少数几家公司手中？还是需要更广泛的民主参与机制——类似于互联网早期IETF（互联网工程任务组）那样的多方利益相关者治理模式？IETF成立于1986年，采用"粗略共识与运行代码"（rough consensus and running code）的决策原则，任何人都可以参与其标准制定过程。正是这种开放治理模式催生了TCP/IP、HTTP等塑造了现代互联网的核心协议。AI治理是否需要类似的开放机制，还是AI系统的安全敏感性决定了它必须采取更封闭的管理方式？这本身就是一个值得深入辩论的问题。
• 公众、政府与学界又该如何参与到这场关乎文明走向的对话中？当前学术界在AI安全人才方面面临严重的"人才虹吸"效应——根据斯坦福大学2024年《AI指数报告》，美国AI博士毕业生中约70%进入产业界，仅约20%留在学术界，这一比例在十年间几乎翻转。产业界提供的薪资通常是学术职位的5-10倍（顶尖AI研究员年薪可达数百万美元），且拥有学术界无法匹敌的计算资源——训练一次前沿大模型的成本已超过1亿美元。这意味着对AI公司行为的独立学术审视力量正在系统性地被削弱，而这恰恰发生在AI技术最需要外部监督的时期。

结语

Anthropic究竟想要什么，可能连它自己都无法给出简单的答案。但可以确定的是，当我们讨论AI公司时，早已不能仅用"技术"的框架去理解它们。

在AGI的黎明时分，最强大的几家AI实验室正在成为兼具技术、政治与哲学属性的复合体。Anthropic或许是其中最典型的样本——它的雄心与困境，恰恰是整个AI时代的缩影。保持警惕、保持追问，是我们面对这些"接生者"时最应有的姿态。