AI Agent激活端侧市场：15万亿美元新蓝海

AI已从工具进化为生产力核心

在21世纪经济报道推出的《聊懂新"新三样"》专访中，AMD大中华区市场营销副总裁纪昭辉与中国银河证券电子组首席分析师高峰，分别从产业与资本两个视角，勾勒出AI落地的当前图景。

一个核心判断被反复强调：AI已经完成了从"工具"到"生产力核心"的转变。纪昭辉指出，AI不再停留在纸面数据，而是真实落地于大量商业化环境中。过去三年，全球企业的AI使用率持续提高，商业化竞争不断深化。但两位嘉宾同时认为，AI仍处在早期发展阶段，未来潜力巨大。

更值得关注的是算力结构的变化。AMD观察到，从今年开始，推理算力的成长速度已经超过了训练算力。所谓训练算力，是指用于训练大模型的计算资源，通常需要数千甚至数万张GPU卡并行运算数周乃至数月，完成模型参数的优化；而推理算力则是模型训练完成后，在实际应用中处理用户请求时所消耗的计算资源。早期AI发展以训练为主，企业投入大量资源构建和优化基础模型；当模型成熟度提升、应用场景铺开后，推理侧的算力需求便会指数级增长。Token是大语言模型处理文本的基本单位，一个Token大约对应一个汉字或半个英文单词，推理应用中Token消耗占比的提升意味着越来越多的用户和设备在实时调用AI能力。

这意味着AI正在从"训练为主"迈向"推理落地"，Token消耗中推理应用的占比将越来越高。这一趋势直接指向了端侧市场——当AI真正成为无处不在的生产力，云端、边缘侧、端侧都将快速承接落地需求。云端AI将计算任务集中在远程数据中心完成，优势在于算力几乎无上限，但存在延迟、隐私风险和持续的Token费用问题；端侧AI则将模型部署在用户本地设备上，优势在于低延迟、数据隐私可控、无需持续联网；边缘侧则介于两者之间，通常部署在靠近用户的本地服务器或网关设备上。三者协同构成AI算力的完整层级，端侧的崛起本质上是AI民主化的体现——让每个人都能在自己的设备上拥有专属AI能力。

被市场低估的端侧：需要重构而非沿用

高峰在银河证券年度策略会上曾指出，市场把过多重心放在了AI基础设施（算力、存力、通信）上，而相对忽视了终端本身的创新迭代与升级需求。

在他看来，终端始终是AI落地的重要载体。正如移动互联网时代的繁荣建立在智能手机的普及之上，AI时代的终端同样处于关键位置。关键区别在于产品设计逻辑的根本转变：过去GPU只是终端的"副产物"，并非核心；而AI时代的新产品，需要以GPU、存储为设计核心，才能真正带动端侧AI的落地。

在传统PC和手机架构中，CPU是核心计算单元，GPU（图形处理单元）主要负责图形渲染等辅助任务，属于"配角"定位。但AI推理高度依赖并行计算，GPU的数千个核心天然适合矩阵运算——这正是神经网络推理的核心操作。因此在AI时代，终端的设计逻辑需要从"CPU为中心"转向"GPU和NPU（神经网络处理单元）为中心"。同时，大模型运行需要将模型权重完整加载到内存中，这对内存带宽和容量提出了前所未有的要求。传统终端的8-16GB内存远远不够运行数百亿参数的模型，因此架构重构不仅涉及计算单元，更涉及存储层级的彻底重新设计。

高峰强调，如果不重新重构算力、架构和功耗，仍然沿用过去的架构，很可能无法满足AI时代的需求。这正是当前被市场忽略的方面。话说回来，AI时代的终端正在走向多样化——不再局限于手机、电脑，机器人、AI家电、AI眼镜、甚至AI宠物，都成为新的端侧成员。站在当下看未来投资，端侧"大有可为"。

15万亿美元：一次全面的AI化改造

从投资视角，高峰给出了一组极具冲击力的市场规模测算。将手机、电脑PC、机器人、汽车等所有AI相关终端加总，按上限估算，整个AI相关终端市场约有15万亿美元规模。

拆解来看：

• 手机：作为移动互联网时代的核心，年出货量约13-14亿部，市场规模6000-7000亿美元；
• 传统PC：年出货量2-3亿台，市场约2000亿美元；
• AI眼镜：目前出货量不大，一年1000多万台，属于新兴品类；
• 可穿戴设备：年出货量约1亿多至2亿；
• 机器人：随着特斯拉及国内厂商入局，未来可能形成接近数千亿美元的市场。

高峰的核心逻辑在于：过去这些终端是"给人用"的，而未来它们都要加上"给智能体用"的能力。这意味着上述10万亿美元级别的市场体量，都需要进行一番AI改造。无论是芯片，还是整机、模组等硬件环节，都将催生一场巨大的硬件投资浪潮。他将这一切换类比为从功能机到智能机的跨越——一次不可逆的换代。

回顾历史，2007年iPhone发布标志着功能机向智能机的跨越，这不仅是硬件升级，更是整个产业生态的重塑。功能机时代的诺基亚、摩托罗拉等巨头因未能及时转型而迅速衰落，而苹果、高通、ARM等拥抱新架构的企业崛起。智能机带来了触摸屏交互、App生态、移动支付等全新范式，催生了超过万亿美元的移动互联网经济。当前的AI终端换代覆盖的品类远多于手机一种，这也解释了为何15万亿美元的市场规模远超当年智能机换代的体量——这是一次涉及所有数字终端的系统性重构。

智能体主机：端侧落地的关键形态

纪昭辉认同这一判断，并进一步提出了**"智能体主机"**这一具体产品形态。他的逻辑清晰：目前使用云端大模型（如豆包）每月可能需花费上千甚至几千元的Token费用；而智能体主机首先要做的，就是把大模型放进用户自己的设备里。

所谓智能体（AI Agent），是指能够自主感知环境、制定计划、执行任务并根据反馈进行调整的AI系统。与传统的"问一答一"式聊天机器人不同，智能体具备自主决策、工具调用、多步推理和记忆能力。一个完整的智能体通常包含：大语言模型作为"大脑"、知识库作为"长期记忆"、工具集作为"双手"、以及规划模块作为"执行策略"。在端侧运行智能体意味着这些组件都需要本地化部署，模型参数、知识库索引、历史对话记录等都要占用本地内存空间。智能体的本地化部署还意味着用户的个人数据和工作流程不必上传云端，兼顾了效率和隐私。

但这并非易事，对硬件提出了明确的门槛要求：

模型要足够聪明

以当前的技术水平，如果模型参数不到300亿（30B-35B）以上，就不够聪明，放进设备也无法完成智能体该做的事情。因此设备必须能够运行足够大的模型。模型参数量直接决定了其推理能力的上限——参数越多，模型能够捕捉的语义关系越复杂，处理多步推理和专业领域任务的能力越强。当前主流的端侧模型如Llama、Qwen等在30B参数级别已展现出接近GPT-3.5水平的能力，能够胜任文档分析、代码生成、任务规划等智能体核心功能。

内存容量要足够大

纪昭辉给出了一个具体数字：至少需要96GB统一内存。因为除了大模型本身，设备还要容纳个人知识库、工作文件，以及多个智能体——每个智能体大约需要10GB容量，三个"AI员工"就需要30GB。这些叠加起来，96GB统一内存成为智能体主机的入门门槛。

统一内存（Unified Memory）是一种将CPU和GPU共享同一内存池的架构设计，区别于传统PC中CPU使用系统内存、GPU使用独立显存的分离式架构。在分离架构下，数据需要在系统内存和显存之间频繁搬运，造成延迟和带宽浪费。统一内存则让CPU和GPU直接访问同一块物理内存，消除了数据拷贝的开销。对于大模型推理而言，这意味着模型权重只需存储一份即可被所有计算单元访问，极大提升了内存利用效率。苹果的M系列芯片率先大规模采用了这一架构，证明了其在AI工作负载下的优势。

而当前市面上的电脑设备，还不是都能满足这样的能力。基于此，AMD推出了锐龙AI MAX+系列，其中旗舰型号锐龙AI MAX+ 395是一颗独特设计的旗舰级SoC（System on Chip，片上系统），可支持128GB统一内存，能以一个桌面小盒子的形态实现大模型能力。SoC设计将CPU、GPU、NPU、内存控制器等关键组件集成在单一芯片上，不仅减小了物理体积，更通过缩短互连距离来降低功耗和延迟，这使得在紧凑的桌面形态中运行数百亿参数的大模型成为现实。

AMD的云边端全栈布局

纪昭辉表示，在CEO苏姿丰博士的带领下，AMD已完成云、边、端全栈式的AI产品方案部署。苏姿丰认为AI是50年以来最重要的变革性技术。AMD在云端有Instinct系列加速卡（如MI300X）对标英伟达的H100/H200，在数据中心和边缘侧有EPYC服务器CPU提供基础算力支撑，在端侧则有锐龙AI系列覆盖笔记本、台式机和智能体主机等形态。这种全栈布局意味着AMD能够为不同场景提供差异化但协同的AI解决方案。

AMD预计，未来几年将看到数以十亿计的PC及终端设备需要进行AI化的升级改造。这与高峰从资本端观察到的趋势高度一致——端侧AI是一个确定的增量市场。

端侧才是AI普惠的最后一公里

这场对话传递出一个清晰信号：当行业热议算力基础设施时，真正决定AI能否走进千行百业、走进每个人生活的，是端侧终端的全面AI化。从功能机到智能机的历史正在重演，只不过这一次的换代由AI Agent驱动，涉及的市场规模高达15万亿美元。

对硬件厂商而言，这既是机遇也是挑战——沿用旧架构注定被淘汰，唯有围绕AI重新重构算力、内存与功耗，才能抓住这个正在打开的端侧新市场。当每一台终端设备都成为智能体的载体，AI的普惠化才真正从口号变为现实。

核心要点