[控场AI]
· 8 分钟阅读· 4,467 字

Anthropic泄露机密路线图:五年前就写好了AI行业剧本

Anthropic泄露机密路线图:五年前就写好了AI行业剧本

Anthropic五年前泄露的路线图精准预判了Coding Agent、Tool Use、长上下文等所有热点,五年间逐一兑现并主导MCP标准。

Anthropic一份2021年的内部研究路线图因版权官司泄露,彼时ChatGPT尚未问世,但文档已把Coding Agent、Tool Use、长上下文、强化学习、自动化反馈和Agent安全全部列入清单。路线图核心是训练有长记忆能力的大型生成式模型,结合自动化奖励与人类反馈的RL微调,并把规模化列为首要方向。团队从一开始就要求能力研究与对齐研究同步推进,安全不能等模型成熟后再补。五年间,Anthropic逐一兑现:宪法AI、100K上下文、可解释性突破、电脑操作功能、MCP协议开源、Claude Code发布,最终让MCP成为全球AI工具事实标准,从产品公司变成规则制定者。

一场版权官司意外撕开了一家AI公司的底牌。Anthropic一份写于五年前的内部研究路线图《Concise Research Roadmap》因法律诉讼被公之于众。彼时ChatGPT尚未问世,整个行业还在质疑大模型是不是过渡产品,而这份仅三四页的文档,早已把Coding Agent、Tool Use、长上下文、RL、自动化反馈甚至Agent安全问题全部列入清单。

Anthropic泄露的内部研究路线图《Concise Research Roadmap》

一份清单,五年兑现

这份文档由Anthropic联合创始人Jared Kaplan撰写,汇集了公司核心团队密密麻麻的批注。Tom Brown指出"仓库浏览是简单、高价值的切入点",Nelson Elhage预判"自动查找项目里的类型定义"会是极具用户价值的功能。面对"最强编程助手"与"工具能力演示"的路线之争,CEO Dario Amodei当场定调:"短期先演示工具使用,长期打造最强编程助手。"

那一年Anthropic刚成立半年,全部融资仅1.24亿美元。距离ChatGPT引爆全球还有16个月,距离Claude 1发布还有20个月。有网友看完讨论后直言:"原来我们现在抢着做的Agent,是人家的代办清单。"也有网友指出,对前沿研究员来说这些见识或许不算稀奇,但真正能把这些路线做出来不跑偏,才是真本事。

2021年,他们看清了什么

Anthropic在内部文档中明确写出AGI的核心路径:做有长记忆能力的大型生成式模型,并通过结合自动化奖励与人类反馈的强化学习完成微调。所有研究项目都围绕这个中心展开。

他们认为检验这套路线的第一个载体是"对话式软件工程师助手"——能通过对话完成软件的创建、编辑与讲解,写函数、找Bug、设计API,最终达到一名软件工程师同事的水准。这正是今天Claude Code的雏形。

围绕这个目标,团队把"规模化"放在所有研究方向的首位,从一开始就为万亿参数规模做准备。Jared Kaplan是Scaling Laws理论的第一作者,他把这套认知从OpenAI带到Anthropic,思考如何训练万亿乃至更大规模的模型。文档中还讨论了如何拉高GPU利用率、提前适配TPU和Trainium等下一代硬件、怎么把块稀疏注意力这类复杂工程封装起来让非专业人员也能配置超参数、怎么给大模型权重这类核心资产搭好安全防护体系。

预训练与数据方面,他们从一开始就打算训出行业性能最优的语言+代码双料基座模型。数据集不仅有自然语言和代码,还覆盖了Diff、PR、调试记录以及代码运行的评估结果,完整覆盖软件开发全流程。

Scaling Laws(缩放定律) 是理解这份路线图底层逻辑的关键。它指的是模型性能(如损失函数值)与模型参数量、数据量、计算量之间呈现可预测的幂律关系:在对数坐标下,性能随规模增长呈线性下降。这意味着只要持续放大规模,就能按预期获得能力提升,而不必依赖架构上的偶然突破。Jared Kaplan正是这一理论在OpenAI时期的核心作者之一,他将“规模优先”的信念带到Anthropic,直接解释了为何文档把“规模化”放在所有研究方向首位,并提前为万亿参数、GPU利用率、TPU/Trainium适配做准备——这些都不是零散工程,而是Scaling Laws指导下的系统性投资。

块稀疏注意力(Block-Sparse Attention) 是应对长上下文计算瓶颈的关键工程手段。标准注意力机制的计算量随序列长度呈平方级增长,当上下文扩展到10万甚至100万token时,显存和算力都难以承受。块稀疏注意力将序列切分成块,只计算部分块之间的注意力权重,从而把复杂度降到接近线性。文档中提到“把块稀疏注意力这类复杂工程封装起来让非专业人员也能配置超参数”,说明Anthropic当时已预判长上下文是必争之地,并试图把底层优化产品化,降低研究者的使用门槛。这与后来Claude将上下文窗口从9K扩到100K、再到1M token的路线一脉相承。

能力与对齐,从一开始就绑在一起

Amanda Askell在文档评论中提前预判了代码能力与对齐研究脱节的风险:代码能力持续增强却缺少对齐约束,对齐研究依赖的模型能力不足又限制测试深度,长期下来对齐研究就会变成"信息孤岛"。她要求各领域的能力研究与对齐研究按比例同步推进,安全不能等模型能力成熟后再补上。

可解释性是另一个长期投入方向。Christopher Olah专门拆解大模型的神经元、注意力头与内部功能回路,希望从底层机理搞清楚算术推理、多轮对话、代码生成究竟如何在神经网络内部实现。

RL for Tool Use被列为核心研究方向——让大语言模型学会使用工具,理解环境和目标,通过强化学习不断改进。Dario Amodei的视野不局限于代码场景,他还提出自然语言编辑器同样值得探索,比如让模型在类似Google Docs的环境里修改文档。

安全考量贯穿始终。Sam McCandlish当时就抛出问题:"怎么安全地部署非沙箱化工具?"Dario更是预警部署阶段可直接执行代码的工具风险极高。如今Agent赛道天天热议的沙箱隔离、权限拦截,全在他们当年的推演之中。

一条路线,五年落地

五年后回看,Claude已能一次处理1M token长文本,模型迭代到Opus系列。安全调校从人工标注反馈进化到"AI监督AI"的宪法式训练,再到如今的混合方案。

2022年底ChatGPT凭借RLHF一夜爆火,但这套方法痛点明显:要雇大量人做标注,成本高、难规模化。就在ChatGPT发布半个月后,Anthropic发表论文提出"宪法AI"思路——先给模型定一套行为原则,再让一个模型去评判、修改另一个模型的回答,反复迭代。对内解决了安全调校跟不上模型能力增长的问题,对外定义了Claude礼貌、克制的产品特质。

2023年,第一代Claude正式对外合作,主打长文本处理和安全属性。5月,上下文窗口从9K扩到100K token;9月发布首版《负责任的缩放政策》,给模型潜在风险划分等级,这是行业里第一套成体系的动态安全机制。同年10月,Google领投的一轮让Anthropic估值站上184亿美元。

2024年,Anthropic在可解释性方向掀起热潮。团队利用稀疏自编码器对Claude Sonnet内部的数百万个特征进行"内部扫描",从模型里提取了3400万个特征,定位到"金门大桥""程序漏洞"等具体概念对应的内部回路。他们还做了个实验:手动激活"金门大桥"对应的特征,让模型不管回答什么问题都绕不开金门大桥。这是人类第一次在商用级大模型上做到对内部机制的精准解释和操控,意味着AI安全研究从此不用再"开盲盒"。

同年10月,新版Claude上线"电脑操作"功能,模型能像人一样看屏幕、点鼠标、敲键盘。才过一个月,Anthropic开源MCP协议,把模型和各种工具、数据之间的连接方式统一了。2025年第一季度,OpenAI、谷歌先后宣布支持MCP,国内阿里、腾讯、百度、支付宝也在四个月里密集上线相关服务。这是Anthropic第一次在基础设施层上让对手跟进。

2025年2月,Claude 3.7和Claude Code一起发布。前者能切换"快答"和"深度思考"两种模式,后者是专门的编程助手,能自己翻遍整个代码库、查类型定义、调bug、提交代码、跑测试。2021年文档里的所有讨论都成了现实:从"仓库浏览是个好切入点",到"先演示能力、再做生产力工具"的节奏,全部分毫不差落地。到9月的4.5版本,AI编程能力达到初级工程师水平。

2026年,Anthropic密集更新5.5代全系列模型,从旗舰到轻量依次推出,多模态、深度思考、智能体三项能力同步成熟。MCP已成全球AI工具的事实标准,Anthropic真正从"做产品的"变成了"定规矩的"。

宪法AI(Constitutional AI) 是Anthropic对RLHF规模化痛点给出的替代方案。传统RLHF需要大量人类标注员对模型输出进行偏好排序,成本高且难以随模型能力同步扩展。宪法AI的做法是:先为模型写下一套明确的行为原则(即“宪法”),然后让模型根据这套原则自我评判、自我修改,再用这些自我生成的偏好数据训练奖励模型。这相当于用AI监督AI,把人类从逐条标注中解放出来,只需制定原则。它既解决了安全调校跟不上能力增长的问题,也塑造了Claude礼貌、克制的产品性格。文中提到2022年底ChatGPT发布半个月后Anthropic就发表相关论文,说明这一思路在内部早已酝酿成熟。

稀疏自编码器(Sparse Autoencoder, SAE) 是可解释性研究在2024年取得突破的核心工具。大模型内部神经元是多义性的,单个神经元往往同时响应多个不相关概念,直接观察难以理解。稀疏自编码器通过强制中间层稀疏化,把叠加在一起的激活模式拆解成大量单义特征。Anthropic用它在Claude Sonnet中提取了3400万个特征,并定位到“金门大桥”“程序漏洞”等具体概念对应的内部回路。手动激活“金门大桥”特征就能让模型绕不开该话题,证明这些特征确实因果性地影响输出。这使AI安全研究从行为观察进入内部机制操控阶段,不再“开盲盒”。

MCP(Model Context Protocol) 是Anthropic在2024年11月开源的协议,用于统一模型与外部工具、数据源之间的连接方式。在MCP之前,每接入一个工具或数据库都需要定制开发接口,生态碎片化严重。MCP定义了一套标准化的通信规范,让模型能以统一方式调用文件、数据库、API等资源。它迅速被OpenAI、谷歌及国内阿里、腾讯、百度、支付宝等采纳,成为全球AI工具的事实标准。这是Anthropic首次在基础设施层让竞争对手跟进,标志着其从模型能力竞争上升到规则制定权争夺。

为什么这份路线图值得反复看

五年间行业风口换了一轮又一轮,无数公司追着热点调转方向,而Anthropic始终沿着当年画下的线稳步推进。这份文档的价值不在于预测了哪些技术方向,而在于展现了一种稀缺能力:在行业摸黑赶路的时候,有人早已看清地图,然后一步步走到了终点。

从底层算力工程、模型基座、核心能力,到安全体系、社会治理,Anthropic构建了一套完整且没有明显短板的AGI研发闭环。这份泄露的文档证明,他们如今的成果,本质上都是早有预谋的技术兑现。

参考链接:https://i.smitop.com/concise-research-roadmap.pdf

分享:

相关推荐