谷歌联手AMD打造下一代TPU混合AI芯片：封装内集成CPU核心

谷歌与AMD合作传闻的战略意义

据多方报道,谷歌正在与AMD展开合作,共同设计下一代张量处理单元(TPU)。这一消息之所以引发行业高度关注,是因为它可能标志着AI专用芯片(ASIC)设计范式的一次重要转变。传闻中的新一代TPU将采用一种"混合AI ASIC"架构,在芯片封装内集成CPU核心,专门优化强化学习(Reinforcement Learning,RL)等新兴工作负载。

张量处理单元的演进历程

张量处理单元(TPU)是谷歌自2016年起推出的专用AI芯片架构。与通用GPU不同,TPU专门针对神经网络中的张量运算进行优化,特别擅长矩阵乘法等操作。TPU采用脉动阵列(Systolic Array)架构,通过数据在处理单元间的有节奏流动来实现高效并行计算。第一代TPU仅用于推理,而从第二代开始支持训练工作负载。

长期以来,谷歌的TPU一直是其AI基础设施的核心竞争力之一。从AlphaGo到如今支撑Gemini大模型训练的TPU集群,谷歌通过自研芯片摆脱了对英伟达GPU的完全依赖。TPU通过谷歌云平台对外提供服务,但其完整架构细节并未完全公开,这种垂直整合的策略帮助谷歌在AI基础设施上保持技术领先。而此次引入AMD作为设计伙伴,则透露出谷歌希望在下一代芯片中融入更强的通用计算能力。

ASIC设计的战略考量

ASIC(Application-Specific Integrated Circuit,专用集成电路)是为特定应用定制设计的芯片,与CPU、GPU等通用芯片形成对比。ASIC通过牺牲通用性来换取在特定任务上的极致性能和能效。在AI领域,ASIC可以针对特定神经网络架构优化数据流、去除不必要的通用功能,从而实现数倍于GPU的能效比。然而ASIC的设计成本高昂(可达数千万美元),开发周期长(2-3年),且难以适应快速变化的AI算法。只有像谷歌这样拥有明确、大规模工作负载的公司,才能充分发挥ASIC的优势。

为什么要在封装内集成CPU核心

强化学习对异构算力的特殊需求

传闻的核心亮点在于"on-package CPU cores"——即在同一芯片封装内集成CPU核心。这种设计的目标很明确:为强化学习任务提供更高效的算力支持。

强化学习(RL)与监督学习在计算模式上有本质区别。监督学习主要是密集的矩阵运算,适合GPU/TPU的并行架构。而RL需要智能体与环境持续交互:每一步都要根据当前状态执行策略网络(推理)、接收奖励、更新价值函数,这个循环包含大量条件判断、状态转换等控制流操作。此外,RL常需要运行复杂的环境模拟器(如物理引擎、游戏引擎),这些代码通常是用CPU友好的串行逻辑编写的。

在训练AlphaGo或Dota 2 AI时,系统需要在神经网络推理(GPU擅长)和蒙特卡洛树搜索(CPU擅长)之间快速切换。这类工作负载往往包含复杂的控制流和逻辑分支,这恰恰是CPU擅长而GPU/TPU相对薄弱的领域。当RL训练需要在"矩阵密集计算"和"逻辑控制"之间频繁切换时,如果CPU与AI加速器分处不同芯片,数据在两者之间往返传输会带来显著的延迟和带宽瓶颈。

Chiplet封装级集成的技术优势

将CPU核心与AI加速单元置于同一封装内,可以大幅缩短两者之间的通信路径,降低延迟并提升带宽。这种"近内存"和"近计算"的设计思路,与近年来Chiplet(芯粒)技术的兴起密不可分。

Chiplet技术是将单片大芯片拆分为多个小芯片,再通过先进封装技术集成在一起的设计方法。这种方法有多重优势:首先,小芯片的制造良率更高,降低成本;其次,不同芯粒可采用不同工艺节点制造(如CPU用5nm,IO用12nm),实现成本与性能的最优平衡;第三,支持异构集成,将CPU、GPU、内存等不同功能模块灵活组合。关键技术包括芯粒间的高速互连(如AMD的Infinity Fabric、Intel的EMIB/Foveros)和先进封装工艺(如2.5D/3D封装)。

值得一提的是,AMD在Chiplet封装技术方面拥有深厚积累。其EPYC服务器处理器和Instinct系列加速器都采用了先进的多芯片封装设计,最多可将17个芯粒集成在一个封装内,实现了灵活的核心配置和优异的性价比。谷歌选择与AMD合作,很可能正是看中了AMD在异构集成和封装工艺上的领先能力。

AI芯片竞争格局的变化

打破英伟达单一供应商依赖

当前AI芯片市场高度集中,英伟达凭借CUDA生态和GPU性能占据主导地位。CUDA(Compute Unified Device Architecture)是英伟达在2006年推出的并行计算平台和编程模型,经过近20年发展已形成强大的生态壁垒。CUDA不仅包括编程语言扩展,还涵盖了数百个优化库(cuDNN、cuBLAS、TensorRT等)、成熟的开发工具链和庞大的开发者社区。几乎所有主流AI框架(PyTorch、TensorFlow等)都深度依赖CUDA。这种软件锁定效应使得即便竞争对手推出性能相当的硬件,开发者也需要付出巨大的迁移成本。

谷歌虽然拥有自研TPU,通过自研软件栈(XLA编译器、JAX框架)部分规避了对CUDA的依赖,但在通用计算部分仍需外部支持。此次与AMD合作,一方面强化了谷歌在AI硬件上的自主可控,另一方面也为AMD打开了一个巨大的定制芯片市场。

对AMD而言,这是继为微软、Meta等厂商提供定制芯片服务之后的又一重要客户。AMD近年来大力发展其半定制业务,通过为云厂商提供设计服务来分享超大规模数据中心的算力红利。

异构计算成为AI芯片发展趋势

这一传闻也印证了AI芯片正在从"纯加速器"向"异构SoC"演进的大趋势。单一类型的计算单元难以满足日益多样化的AI工作负载,未来的AI芯片将更倾向于把CPU、AI加速器、高带宽内存等不同组件紧密集成,以针对特定任务实现最优的能效比。

对未来AI训练的潜在影响

如果这款混合芯片最终落地,它可能会对AI训练方式产生深远影响。随着以RLHF(基于人类反馈的强化学习)为代表的对齐技术和推理模型训练成为大模型开发的关键环节,强化学习的重要性正在快速上升。

RLHF对计算架构的新要求

RLHF(Reinforcement Learning from Human Feedback)是当前大模型对齐的核心技术。其工作流程分为三个阶段:首先用监督学习训练基础模型;然后收集人类对模型输出的偏好数据,训练一个奖励模型来模拟人类偏好;最后用强化学习(通常是PPO算法)微调模型,使其输出最大化奖励模型的评分。RLHF使ChatGPT能够拒绝不当请求、生成更有帮助的回答,但计算成本极高:需要同时运行策略模型、价值模型、奖励模型和参考模型,内存占用是监督学习的数倍。

OpenAI的o系列、DeepSeek等推理模型的成功,都离不开大规模的强化学习训练。一款专为RL优化、集成了CPU与AI加速能力的芯片,有望显著提升这类训练的效率,为谷歌在下一轮AI竞赛中提供硬件层面的优势。这种复杂的多模型协同训练正是对异构算力提出新要求的典型场景。

谨慎看待:仍属传闻阶段

需要强调的是,目前这些信息仍处于"据报道"的阶段,谷歌和AMD均未正式确认相关合作细节。芯片设计周期漫长,从概念到量产往往需要数年时间,因此即便合作属实,产品面世也尚需时日。

不过,这一传闻本身已经反映出行业的重要动向:AI芯片的竞争正在从单纯的算力比拼,转向针对特定工作负载的架构创新。谁能率先设计出最适合下一代AI训练范式的硬件,谁就可能在未来的AI基础设施竞争中占据先机。