鲲鹏AI Agent方案：通算智算并重的智能体架构解析

Agentic AI时代：不只是算力的挑战

随着智能体（Agent）概念的全面爆发，Agentic AI时代正式到来。然而，很多人将目光聚焦在大模型推理所需的智算（智能计算）能力上，却忽略了一个关键事实——智能体对通算（通用计算）的需求同样巨大，甚至更为复杂。

Agentic AI与此前的生成式AI（Generative AI）存在本质性的范式差异。传统的大模型应用以"单轮问答"或"内容生成"为主，用户输入一个Prompt，模型返回一个结果，交互即结束。而Agentic AI强调的是自主性（Autonomy）、持续性（Persistence）和目标导向（Goal-oriented）——智能体能够自主规划任务步骤、在多轮交互中保持状态、根据中间结果动态调整策略，并最终完成复杂目标。这种从"工具"到"代理人"的转变，意味着系统需要持续运行、频繁与外部环境交互、管理复杂的状态机，这些特征天然对通用计算基础设施提出了远超传统AI推理的要求。

这里有必要厘清智算与通算的概念边界。智算（智能计算）特指面向AI训练和推理的计算能力，通常依赖GPU、NPU等专用加速芯片，以大规模并行矩阵运算为核心特征。通算（通用计算）则指传统的CPU为核心的计算能力，承担操作系统调度、网络通信、数据库读写、业务逻辑处理等通用型任务。在过去几年的AI热潮中，行业注意力高度集中在智算侧——谁拥有更多的GPU集群，谁就拥有更强的AI能力。但这种认知在Agent时代面临修正，因为智能体的运行是一个复杂的系统工程，涉及大量非AI推理的计算任务。

过去三年间，全球智算中心建设进入白热化阶段。NVIDIA凭借A100、H100等GPU产品几乎垄断了智算市场，其数据中心业务收入从2022年的150亿美元飙升至2024年的超过470亿美元。各国政府和企业纷纷投入巨资建设GPU集群，形成了"唯GPU论"的行业氛围。然而，一个完整的AI应用系统中，GPU推理通常只占总计算量的30%-40%，其余60%-70%的计算负载——包括数据预处理、特征工程、结果后处理、业务逻辑执行等——都由CPU承担。在Agent场景下，由于涉及大量的编排调度、状态管理和外部系统交互，通算占比可能进一步提升至70%-80%。

华为鲲鹏团队在最新的技术分享中明确指出，Agentic AI时代的到来对IT基础设施构成了极大挑战，这种挑战不仅来源于智算层面，也同样来源于通算层面。这一判断打破了业界"只要GPU够强就行"的简单思维，为理解智能体的完整技术栈提供了更全面的视角。

智能体架构解析：大脑与身体的协作

要理解为什么通算和智算同等重要，首先需要拆解Agent的完整架构。根据鲲鹏团队的分析，一个完整的智能体架构主要由以下几个核心部分组成：

上层：大模型推理（大脑）

大模型推理是整个智能体的"大脑"，负责理解、推理和决策。这一部分运行在智算集群上，依赖GPU/NPU等AI加速芯片的算力支撑，也是目前行业关注度最高的环节。

下层：Agent本体与工具链（身体）

Agent的本体相当于一个Gateway（网关），向下连接了三大核心模块：

• 记忆系统：负责存储和检索上下文信息、历史交互记录
• 行动模块：执行具体的操作和任务
• 工具调用：与外部API、数据库、应用系统进行交互

Gateway（网关）在软件架构中是一个经典的设计模式，最早广泛应用于微服务架构中的API Gateway，负责请求路由、负载均衡、认证鉴权等功能。将Agent本体类比为Gateway，意味着它是所有上下游交互的中枢节点：向上对接大模型推理服务获取决策结果，向下调度记忆检索、工具执行、外部API调用等具体操作。这种架构设计与当前主流的Agent框架（如LangChain、AutoGPT、CrewAI等）的设计理念高度一致——Agent核心是一个编排层（Orchestration Layer），而非单纯的模型调用层。

关键洞察在于：只有大模型推理跑在智算上，而本体、记忆、工具调用等模块实际上都运行在通算基础设施上。

这意味着，当一个智能体执行任务时，大量的数据处理、状态管理、API调用、安全校验等工作都由通用计算来承担。如果通算能力不足或优化不到位，即便大模型推理再快，整个智能体的响应速度和可靠性也会大打折扣。就好比一个人大脑再聪明，四肢不协调、感官迟钝，也无法高效完成任务。

鲲鹏AI Agent解决方案：聚焦两大核心系统

基于对智能体架构的深入理解，华为鲲鹏推出了面向开发者的AI Agent解决方案，帮助开发者在鲲鹏平台上构建更高效的智能体。

该方案聚焦于两大核心系统加一个底座：

记忆系统：智能体的上下文引擎

记忆系统是智能体实现上下文理解和长期学习的基础。在实际应用中，Agent需要管理短期记忆（当前对话上下文）、长期记忆（用户偏好、历史知识）以及工作记忆（当前任务状态）。一个高效的记忆系统直接决定了智能体的"智商"表现——它能否记住之前说过什么、做过什么，能否在复杂任务中保持一致性。

Agent记忆系统的设计灵感部分来源于认知科学中的人类记忆模型。心理学家Atkinson和Shiffrin在1968年提出的多存储模型（Multi-Store Model）将人类记忆分为感觉记忆、短期记忆和长期记忆三个层次，这一框架被AI研究者广泛借鉴。在工程实现上，MemGPT（2023年由UC Berkeley提出）是一个里程碑式的工作，它将操作系统的虚拟内存管理思想引入LLM，通过分层存储和按需换入换出机制，突破了上下文窗口的长度限制。此外，知识图谱（Knowledge Graph）也正在被引入Agent的长期记忆系统，用于存储实体间的结构化关系，弥补向量检索在精确事实查询上的不足。

从技术实现角度来看，智能体的记忆系统涉及多种存储和检索技术的组合。短期记忆通常通过上下文窗口（Context Window）管理，受限于大模型的Token长度限制；长期记忆则依赖向量数据库（如Milvus、Pinecone、Chroma等）进行语义检索，将历史信息编码为高维向量后存储，在需要时通过相似度搜索快速召回相关内容。工作记忆则类似于计算机的RAM，维护当前任务的执行状态、中间结果和待办队列。RAG（检索增强生成）技术是目前记忆系统中最核心的技术范式，它通过在推理前检索相关知识片段，显著提升了模型回答的准确性和时效性。值得注意的是，这些记忆操作本质上都是数据库读写、向量计算和状态管理，全部运行在通算基础设施之上，这也进一步印证了通算能力对Agent性能的关键影响。

工具调用系统：连接外部世界的桥梁

工具调用系统是智能体与外部世界交互的核心通道。Agent的价值不仅在于"能想"，更在于"能做"。通过工具调用，智能体可以查询数据库、调用API、操作文件系统、触发工作流等，真正实现从"对话"到"行动"的跨越。

工具调用（Tool Use / Function Calling）是Agent区别于普通聊天机器人的核心能力。OpenAI在2023年率先推出Function Calling功能，允许大模型在对话中识别用户意图并生成结构化的函数调用请求，随后由外部系统执行并将结果返回模型。这一范式迅速成为行业标准。在实际的Agent系统中，工具调用涉及API网关管理、请求序列化与反序列化、超时重试、结果解析、权限校验等一系列工程化工作。

MCP（Model Context Protocol）由Anthropic于2024年底提出，旨在为AI模型与外部数据源、工具之间建立统一的通信标准。在MCP出现之前，每个Agent框架都有自己的工具集成方式——LangChain使用Tool抽象类，AutoGPT使用插件系统，各家大模型厂商的Function Calling格式也不尽相同，这种碎片化严重阻碍了Agent生态的发展。MCP采用客户端-服务器架构，定义了资源（Resources）、工具（Tools）和提示模板（Prompts）三种核心原语，允许开发者编写一次工具适配器即可在多个Agent框架中复用。这一协议正在快速获得行业认可，类似于当年REST API对Web服务互操作性的推动作用。这些工程化环节的性能和稳定性，直接决定了Agent能否在生产环境中可靠运行。

Agent安全运行环境：企业级落地的底座

在两大系统之下，鲲鹏方案还提供了Agent的安全运行环境作为底座。这一层解决的是智能体在生产环境中的安全性、稳定性和可控性问题——这恰恰是企业级Agent落地时最关心的问题之一。

企业级Agent落地面临的安全挑战远超普通应用。智能体具备自主决策和行动能力，这意味着一旦出现幻觉（Hallucination）、提示注入攻击（Prompt Injection）或权限越界，可能直接导致数据泄露、误操作甚至业务中断。安全运行环境需要解决的核心问题包括：沙箱隔离（防止Agent执行恶意代码）、权限最小化（限制Agent可访问的资源范围）、审计追踪（记录Agent的每一步决策和操作）、输入输出过滤（防止敏感信息泄露）等。Gartner等研究机构已将AI Agent安全列为2025年企业AI落地的首要关注点之一，这使得安全运行环境从"可选项"变成了"必选项"。

鲲鹏生态与国产AI基础设施的战略意义

理解鲲鹏AI Agent方案的完整价值，还需要将其放在国产AI基础设施的大背景下审视。华为鲲鹏处理器基于ARM架构自主设计，是国产通用计算芯片的代表性产品。鲲鹏生态覆盖了服务器、操作系统（openEuler）、数据库（openGauss）、中间件等完整的IT基础设施栈。在AI领域，华为同时拥有昇腾（Ascend）系列AI处理器负责智算，与鲲鹏形成"鲲鹏+昇腾"的双轮驱动格局——鲲鹏负责通算，昇腾负责智算。这种软硬件协同的布局使华为成为少数能够同时提供通算和智算完整解决方案的厂商之一，在当前国际供应链不确定性增加的背景下，这一能力对国内企业构建自主可控的AI基础设施具有重要的战略意义。

华为鲲鹏处理器所采用的ARM架构，近年来在服务器市场的份额持续攀升。除华为外，AWS的Graviton系列、Ampere Computing的Altra系列、以及NVIDIA的Grace CPU都采用ARM架构。ARM架构相比传统x86架构的核心优势在于能效比（Performance per Watt）——在相同功耗下可以提供更多的计算核心和更高的吞吐量，这对于需要大量并发处理的Agent工作负载尤为重要。根据Counterpoint Research的数据，ARM架构在全球服务器市场的份额已从2020年的不足5%增长至2024年的约15%，预计到2028年将达到25%-30%。在中国市场，鲲鹏生态已覆盖金融、政务、电信等关键行业，形成了较为完整的软件适配体系。

对开发者的启示

鲲鹏AI Agent方案的发布传递了一个重要信号：在Agentic AI时代，开发者不应只关注模型层的能力，更需要重视基础设施层的完整性。

具体而言，有以下几点值得关注：

• 架构思维优先：构建智能体不是简单地调用一个大模型API，而是需要设计完整的记忆管理、工具编排和安全控制体系
• 通算能力不可忽视：Agent的大部分运行时逻辑都在通算侧，选择合适的通算平台对整体性能至关重要
• 平台化降低门槛：像鲲鹏这样提供完整Agent解决方案的平台，可以让开发者聚焦业务逻辑而非底层基础设施搭建

随着智能体从概念走向大规模落地，通算与智算的协同优化将成为决定Agent体验的关键因素。鲲鹏在这一方向上的布局，为国产AI基础设施的发展提供了一条值得关注的技术路径。

核心要点