Andrew Ng：AI Agent 越多，算力需求越猛

AI 领域知名学者 Andrew Ng 近期在 Hacker News 上引发讨论，核心观点直指一个被低估的趋势：每增加一个 AI Agent，背后需要的算力并非线性增长，而是成倍放大。

这个判断看似简单，却揭开了当前 AI 行业一个关键矛盾——当业界竞相部署多智能体系统时，算力基础设施是否跟得上？

为什么 Agent 越多，算力消耗越惊人？

传统 AI 推理的算力消耗相对可预测：一次请求、一次响应，资源占用清晰可算。但 Agent 的工作模式完全不同。

Agent 需要感知环境、规划步骤、调用工具、验证结果，甚至与其他 Agent 协作或竞争。每一步都是独立的模型调用，每一次调用都消耗推理算力。当多个 Agent 形成系统时，它们之间的交互会产生组合爆炸式的计算需求。

Andrew Ng 的观点点出了一个常被忽视的事实：人们只关注单个 Agent 的能力提升，却忽略了多 Agent 系统对底层算力的吞噬效应。

AI Agent（智能体） 是指能够自主感知环境、规划任务、调用外部工具并根据反馈调整行为的大模型应用形态，典型代表包括 AutoGPT、BabyAGI 以及各类基于 ReAct、Plan-and-Execute 框架构建的生产级 Agent。与传统的单轮对话式 AI 不同，Agent 的核心特征是自主循环：模型输出不再直接作为最终结果返回用户，而是被解读为下一步行动指令，触发工具调用或子任务分解，再把结果重新喂回模型。这种“思考—行动—观察”的闭环意味着一次用户请求可能触发几十次底层模型推理。

多智能体系统（Multi-Agent System） 则进一步将多个 Agent 组织成协作网络，常见范式包括角色分工（如“规划者+执行者+评审者”）、辩论式协作和层级式调度。它的价值在于通过分工与互检提升复杂任务的成功率，但代价是 Agent 之间需要反复通信、对齐目标和交叉验证，整体推理次数呈组合级增长。这正是 Andrew Ng 所说“Agent 越多，算力成倍放大”的机制来源。

多 Agent 系统的三层算力放大

第一层：单 Agent 内部的循环

一个能自主完成复杂任务的 Agent，本身就需要多次自我调用。规划一次、执行一次、检查一次、修正一次——单次任务背后可能是十几次模型推理。

支撑这一层的技术基础是 ReAct 范式（Reasoning + Acting）及其衍生框架。ReAct 让模型在每一步都显式输出“思考（Thought）—行动（Action）—观察（Observation）”三元组：先推理当前状态，再决定调用哪个工具，然后根据工具返回结果开启下一轮推理。由于大模型本身是无状态的，每轮循环都需要把此前全部上下文重新送入模型，导致单次任务的 Token 消耗随步数近似线性甚至超线性累积。

与之配套的还有推理时计算（Test-Time Compute） 概念：通过在推理阶段增加采样、搜索或反思步骤来提升答案质量，例如 Self-Consistency 会并行采样多条推理路径再投票，Reflexion 会让 Agent 自我批评并重试。这些方法显著提高了任务成功率，但每一次采样、每一条并行路径都对应一次完整的前向计算，是单 Agent 内部算力放大的直接来源。

第二层：Agent 之间的通信

当两个 Agent 协作时，通信成本不是简单叠加。每个 Agent 需要理解对方输出、调整自身计划、重新调用工具。这种往复交互会显著增加总推理次数，而每次推理都意味着 GPU 时间。

第三层：系统级的验证与纠错

多 Agent 系统中通常需要仲裁机制或验证层，这又增加了额外的算力开销。系统越复杂，用于协调和验证的算力占比越高。

这对 AI 行业意味着什么？

Andrew Ng 的判断隐含了一个重要推演：Agent 经济的瓶颈不在算法，而在算力供给。

当前大量创业公司和产品团队在设计多智能体工作流时，往往只计算了 API 调用次数或 Token 消耗，却低估了真实部署场景下 Agent 交互带来的算力放大。

这带来两个直接后果：

成本模型需要重估。 基于单次推理定价的成本预测，在多 Agent 场景下可能严重偏低。产品团队如果按传统方式估算毛利，可能会在规模化后发现实际算力开支远超预期。

基础设施投资逻辑需要调整。 如果 Agent 是 AI 应用的主流形态，那么算力需求的增长曲线将比现有预测更陡峭。这对 GPU 采购、推理优化、边缘计算部署都提出了新要求。

理解算力放大，需要区分两个常被混淆的计量单位：Token 消耗和 GPU 时间。Token 数只统计了模型读写的文本量，而真正决定成本的 GPU 时间还取决于模型规模、批处理效率、显存带宽以及推理框架的优化程度。在多 Agent 场景下，Agent 数量增加会使 Token 呈组合式增长，同时由于请求呈现高度异步、长短不一的特点，GPU 利用率往往低于批量推理，进一步抬高了单位任务的实际算力成本。

另一个关键概念是推理经济学（Inference Economics）：目前多数 API 按 Token 定价，但多 Agent 系统会产生大量“内部 Token”——即用户看不到的 Agent 间通信和自检内容。这部分消耗不体现在面向用户的产品交互中，却实实在在计入账单。产品团队若只按对外可见的交互轮次做成本预测，就会系统性低估真实开支。这也是原文强调“成本模型需要重估”的技术根源。

短期挑战与长期机会

从短期看，多 Agent 系统的算力成本会限制其大规模商用。能够率先解决推理效率问题的团队，将获得显著的成本优势。

从长期看，这恰恰说明 AI 基础设施仍有巨大增长空间。当 Agent 从实验走向生产，算力需求会从“接受请求”变成“持续运转”，这是与聊天机器人完全不同的负载模式。

Andrew Ng 的提醒值得认真对待：不要只盯着模型能力，也要算清 Agent 背后那笔算力账。 在多智能体时代，谁能更高效地使用算力，谁就能在成本曲线上占据先机。