[控场AI]
· 7 分钟阅读· 3,852 字

清华大佬拆解AI大模型五层架构:从应用到能源全链路

清华大佬拆解AI大模型五层架构:从应用到能源全链路

用应用、模型、基础设施、芯片、能源五层框架,拆解AI产业全貌与新闻背后的真实进展。

文章针对普通人看AI新闻越看越晕的现象,提出一个五层分层框架:应用层、模型层、基础设施层、芯片层、能源层。应用层要分清套壳与原生,理解Token计费和API调用,并把握从提示词到Agent智能体的趋势;模型层区分训练与推理两阶段,DeepSeek以算法优化降低成本,微调是低成本专科化路径;基础设施层的门槛在于万卡级并行协同与网络传输,液冷和选址是降本关键;芯片层解释GPU为何适合矩阵运算,英伟达的护城河在CUDA生态;能源层指出电力是终极瓶颈,巨头已直接签约核电站。掌握这五层,就能快速定位任何科技新闻的实质进展。

为什么你越看AI新闻越晕?

打开手机,今天这家发新模型,明天那家出新应用,股市里天天炒算力和芯片。很多人越看越晕。据B站一位创作者在其《AI大模型零基础全套教程》中的判断,问题不在于AI有多复杂,而在于大多数人只看到了最表面的几个软件。

他提出的框架很直接:从最表面的工具一直挖到底层的物理世界,其实一共就5个环节——应用层、模型层、基础设施层、芯片层、能源层。把这5层搞清楚,整个行业的脉络就全通了。这个分层视角的价值在于,它让你看到任何一条科技新闻时,能立刻定位"它是在哪一层有了实质进展"。

或者水表上的吨

应用层:套壳与原生,Token与API

分清套壳和原生

应用层是大家最熟悉的,ChatGPT、豆包、Kimi,还有做图剪视频的工具都在这一层。看明白这一层,抓住三个关键点就行。

第一,分清什么是套壳、什么是原生。以前大家用Word,现在有些老软件在边上加了一个小小的AI窗口,原本的逻辑一点没变,这只能算锦上添花。真正的AI原生软件,所有操作逻辑一开始就是围绕大模型去设计的。创作者判断,未来真正有生命力的肯定是后者。

Token是度量衡,API是水管

第二,Token和API是什么。大白话讲,Token就是AI世界的度量衡,相当于电表上的度、水表上的吨——你发给AI一段话、一张图,后台都会切成一个个Token来计费。API则是一根水管,大厂把模型在云端训练好,通过这根水管把算力输送给各个应用,大家按使用流量付钱。

商业模式也分得很开:普通个人用户主要是免费或收点小月费,厂商靠个人用户测试软件、跑通名气,真正赚钱的在企业客户那边。企业算账很现实——买AI不是为了尝鲜,而是算一笔账:能不能省下人力成本,能不能把效率提上去。

Token 的切分方式直接影响成本与模型表现。不同模型使用不同的分词器(Tokenizer),常见的有 BPE(字节对编码)等算法。一个英文单词可能被切成一个或多个 Token,一个汉字通常占 1-2 个 Token。这意味着同样一段中文,在不同模型上的计费可能相差近一倍。此外,模型的"上下文窗口"(Context Window)也是以 Token 为单位计量的,例如 128K 上下文意味着模型一次能"记住"约 128000 个 Token 的对话内容,超出后早期信息会被截断,这也是长文档处理场景需要关注的关键参数。

从"用嘴"到"动手"

第三,也是现在最大的趋势:AI从"用嘴"转向"动手"。过去用AI全看提示词写得好不好,现在大家都在做Agent智能体,两者差距特别大。以前你让AI整理发票,它最多给你写一段整理攻略,最后还得你手动去贴;现在的Agent接上了"手和脚",能自己翻邮箱、下载附件、识别发票金额、填进表格,最后甚至直接发邮件给财务。它不再只是陪你聊天的助手,而变成了能自己把活干完的"数字员工"。

模型层:训练是供博士,推理是上班

软件再好用,背后也得有个聪明的大脑,这就到了模型层。大模型怎么运转?其实就两个阶段:训练和推理。

训练阶段就像供一个小孩从幼儿园一路读到博士,要请全世界最好的家教,把几百亿网页、书籍和代码全塞给他看。这个过程不仅费脑子,更费钱——得成千上万张顶级显卡连在一起跑几个月,光电费和机器折旧就是天文数字。推理阶段则是这个博士毕业出来上班,你问他一个问题,他动脑子给你想出答案。

你问他一个问题

创作者特别提到,DeepSeek广告之所以在全球引起这么大震动,很重要的原因是他们通过特别巧妙的算法,把训练和推理的成本硬生生给打下来了,让大家发现原来不用死砸那么多钱也能做出很聪明的大脑。

大脑是怎么打磨出来的?首先是数据,光多没用,必须是清洗得特别干净的高质量数据;其次是参数量,大家常听到的几十B、上百B,B就是十亿,可以把它当成大脑神经元的连接密度,参数越大通常处理复杂问题的能力越强。但现实中不可能做什么事都调动一个超级大模型,成本太高,所以行业里最常用的办法叫微调——找一个已经很聪明的大模型,专门教它一两年金融或医疗专业知识,让它变成专科专家,成本又低回答又准。

基础设施层:一万张卡同时拉一张网

有了大脑,总要有个地方放,这就是基础设施层,业内通常叫infra,是整个AI产业最硬核的"重工业"。

云厂商(阿里云广告、腾讯云、AWS、微软云等)把算力打包成水电煤,一般公司不需要自己花几百万买服务器,直接在云上开个账号按小时租算力就行。但机房内部的事情远比想象复杂。很多人以为搞AI就是买显卡,其实行业里有个痛点:买一张卡不难,把一万张卡连在一起协同干活才是真正的技术门槛。大模型训练时几万张卡同时在算一道大题,就好比一万个人同时拉一张大网,只要有一张卡掉线,或者传输数据慢了半秒,其他所有的卡都得停下来等它。

这就好比一万个人同时拉一张大网

所以大厂比拼的除了手里的卡,还有交换机、光模块以及机房内部的网络传输速度。这些服务器发热量特别大,传统风扇根本吹不凉,现在很多机房开始直接用液体循环降温,也就是液冷。国内很多算力中心建在贵州、内蒙或西北,就是因为那边天气凉快,自然风冷成本低,机房能省下大笔电费。

Infra 层的另一关键技术是分布式并行训练。当单张显卡装不下一个超大模型时,需要把模型切分到多张卡上协同计算,常见策略包括数据并行(每张卡处理不同数据)、张量并行(把单层矩阵运算拆开)和流水线并行(把不同层分给不同卡)。不同并行策略的组合方式直接决定了通信量和训练效率,这也是为什么网络带宽和延迟会成为瓶颈——卡与卡之间传输梯度数据的速度,往往比单卡算力更能决定整体训练周期。RDMA、NVLink 等技术正是为解决卡间高速通信而生的。

芯片层:为什么是GPU而不是CPU

再往下拆,是硬件最核心的部分——芯片。这个环节听得最多的就是GPU。为什么不用普通电脑的CPU,非要抢GPU?打个比方:CPU像一个大学老教授,懂微积分、懂逻辑推理,擅长处理流程特别复杂的单项任务;GPU更像车间里坐着几千个小学生,每个人只会做简单的加减乘除,但他们可以同时做。恰好大模型底层的数学运算全是海量的矩阵乘法,本质就是非常简单但数量庞大的算术题,几千个小学生同时开工做并行计算,速度能把一个老教授甩出几条街。

聊到芯片,大家肯定第一时间想到英伟达。但英伟达真正让竞争对手头疼的不光是硬件,而是软件生态CUDA。十几年前英伟达就把这套软件工具免费给全世界的高校和工程师用,到了今天,几乎所有写AI程序的人习惯的都是英伟达的标准。这就好比所有修车工手里拿的都是专门拧英伟达螺丝的扳手,别的芯片厂商就算把硬件性能做得差不多,程序员跑去一看原本的代码根本跑不通,还得重新学重新写,大家自然就不愿意换了。

还得重新学重新写

这也是为什么芯片成了博弈最前沿——它已经不单单是一块硅片的问题,而是从芯片设计、代工制造到软件生态的一整套锁链,谁被卡住了,谁后面的AI发展速度就会慢半拍。

CUDA 之外,还有一个常被忽略的概念:制程与代工。芯片性能不仅取决于设计,还取决于制造工艺,如 5nm、3nm 等制程节点,数字越小意味着单位面积能塞进更多晶体管、能效更高。全球最先进的代工产能主要集中在台积电等少数厂商手中,而高端光刻机又依赖 ASML 等设备商。这就是文章所说"一整套锁链"的具体含义:设计(英伟达/AMD)、制造(台积电/三星)、设备(ASML)、软件生态(CUDA)环环相扣,任何一环受限都会传导到整个 AI 产业。

能源层:AI的尽头是电力

拆到芯片最底下,还有一层,也是现在全球科技巨头最焦虑的一环:能源层。行业里有句话很现实——AI的尽头其实是电力。

大模型看着是虚拟的代码,但在物理世界里它是实打实的耗电大户。我们随手让它写篇文章、生成一段几秒钟的视频,消耗的电量是传统搜索的几十倍;一个几十万张卡连在一起的超级数据中心跑起来,消耗的电相当于一个小城市的全部用电量。现在的瓶颈已经不仅是买不买得到芯片,而是很多地方的电网根本接不进这么大的负荷。这也是为什么微软、亚马逊这些巨头开始直接去找核电站签几十年的供电协议,大家都在拼命布局风电、光伏和储能。代码写得再漂亮,最终都要落到物理规律上,没有庞大稳定便宜的电力,超级智能根本跑不起来。

五层贯通,看新闻不再被带节奏

把五个环节从头到尾捋一遍:最上面是看得见摸得着的应用层;支撑应用运转的是负责思考的模型层;给大脑提供安身之所的是基础设施层的超算集群;集群里的动力核心又是芯片层的并行算力;而最底下真正撑着所有机器运转的,是能源层源源不断的电力。

每一句屏幕上看似轻松的回答背后,其实是一整套非常庞大的工业链条在支撑。这个五层框架不涉及任何具体产品参数,却是理解AI产业最实用的"判断框架"——下次再看到五花八门的科技新闻,你会清楚它到底是在哪一层有了实质进展,这个进展又会顺着链条具体影响到谁。

#AI大模型#五层架构#Token与API#AI Agent#GPU与CUDA#AI基础设施#AI能源瓶颈
分享:

相关推荐