AI Infra薪资翻身：年薪800万背后的分化真相

“以前 AI 业内把做 Infra、做工程的叫‘计算机里的土木系’，干着最脏最累的活，拿垫底的钱。谁能想到他们现在这么值钱？”某大模型独角兽高管刘立向雷峰网感慨道。

这个比喻背后，是一场正在发生的薪资重估。AI Infra 工程岗以前在大厂，年包基本到不了 300 万；现在，好的 Infra 人能开到七八百万。比起算法岗（500~1400 万）还有差距，但已经算打了个漂亮的翻身仗。

“土木系”凭什么拿高薪？

什么是 AI Infra 人才？简单来说，他们做的是把昂贵的 GPU 算卡榨出尽可能高的利用率，实打实替公司省钱。

上市人力资源服务公司科锐国际华南区 AI 业务资深专家卢炳宁见证了这场狂飙：“2024 年在深圳见一个做 Infra 的候选人，他年薪还是 30 万；2025 年涨到 50 万；今年一跳槽，直接 100 万。”

这轮涨薪的起爆点，是 DeepSeek^广告 R1 的发布。据卢炳宁回忆，R1 发布后，行业都在琢磨一件事：DeepSeek 就那么点人，却做出了那么好的产品，赚了那么多钱，他们到底是怎么做到的？后来答案的一部分，落在了 Infra 降本上。

算力账单的隐形漏斗

大模型公司最贵的开销，几乎都压在算卡上。业内流传过这样一笔预算配比：AI 模型公司每投 100 块到 AI 训练上，40 块花在算力，30 块花在人才，20 块打广告，剩下 10 块买数据。

可钱花出去，卡却常常在空转。某大模型实验室算力调度专家张桐透露，行业里 GPU 的实际利用率长期偏低，平均只在 25% 到 27%，也就是说买来的算力有一大半没被真正跑起来。

而这，恰是 Infra 人才的用武之地。“同样是这批卡，好的 Infra 团队能把利用率拉到 40%，这十几个百分点的差距，就是壁垒。”

卢炳宁估算，做好 Infra 降本，算力开支能省下至少几千万的成本。“Infra 现在的角色，就是给厂商省钱。省钱也是在赚钱。”

GPU 利用率指 GPU 在一定时间窗口内实际承担有效计算任务的比例。它之所以成为大模型公司最关注的指标之一，是因为 GPU 采购、上电、散热、机架和网络带宽都是按满载假设配置的，但真实训练任务中存在大量等待：数据加载跟不上、通信 all-reduce 阻塞、显存不足导致批次缩小、任务排队调度不佳。行业平均 25%~27% 意味着大量昂贵的 H100/A100 在多数时间里处于半闲置状态。把利用率从 25% 提升到 40%，在算卡总量不变的情况下，等价于凭空多出约 60% 的有效算力，这也是 Infra 团队直接为公司创造的价值来源。

VLLM 与 SGLang 是当前主流的两类大模型推理框架。VLLM 由加州大学伯克利分校团队开源，核心创新是 PagedAttention，把 KV Cache 按页管理，显著降低显存碎片，从而提升并发吞吐；SGLang 则由 LMSYS 团队推出，主打 RadixAttention 与前端 DSL，在结构化输出、多轮对话等场景中调度效率更优。它们让中小团队不必从零重写推理引擎就能跑起服务，因此“把 VLLM 部署到产品上”成了门槛相对较低的 Infra 岗位；而真正拉开薪资差距的，是能在这些框架之上继续做算子融合、量化、投机采样、分布式并行调度的深度优化者。

算法红利见顶，系统工程接棒

更深一层的变化是，大模型的技术竞赛已经从拼算法创新，走到了拼底层系统工程的硬仗阶段。

某大模型独角兽资深 AI Infra 工程师周岳坦言：“你在 Infra 上抠出一点优化，带来的效率飞跃，远比死卷算法划算得多。”

大模型训练眼下近乎开卷考试。得益于开源模型普及，Transformer 等基础架构走向成熟收敛，行业比拼的重点已经从基础预训练，转移到工程化落地、推理优化这些环节。“现在大模型训练里，真正‘非你不可’的创造性工作已经很少了，大部分活就是数据清洗、数据配比实验、工程调优，这些活称不上高科技，却能带来真金白银。”

仅 5% 的人吃到这轮溢价

看上去，“薪资翻倍”已经成了 AI Infra 招聘市场的口头禅。但在 StartLux 联合创始人兼 CTO 郭权玮看来，这更像把少数离群值错当成了普遍常态。

脉脉上的岗位薪资显示，中国大陆 AI Infra 人才月薪大致在 7.3 万元，已经略高于做大模型算法的人。不过平均数掩盖了内部分化。真正把薪资曲线拉起来的，是那波能把算卡利用率提上去的人；而大量做“普通 Infra”的人，离翻倍还远。比如，把 VLLM、SGLang 这类推理框架部署到产品上的 Infra 岗位，月薪大多停在 4 万到 5 万，跟“翻倍”不沾边。

谁在翻倍，谁在原地

几位受访者给出的答案集中在两个方向：推理优化和模型量化。这类人做的事，正是把每一张 GPU 的算力尽可能压榨到极限。“如果你帮公司省下 30% 的训练时间，或者多出 30% 的 Token 吞吐，成本就能直接降下一截。”郭权玮补充道。

卢炳宁将 Infra 划分成三块：推理优化加速、训练框架、算子开发。“这三块涨幅都高，但受重视程度有所差别。”他给了一个通俗的比方：做算子开发的，像是在打磨厨具；做训练框架的，是在搭后厨体系；做推理的，是想怎么出餐最快，是直接做变现的环节。业内一般认为算子和推理更重要。

但问题是，这群人并没有想象中的多。郭权玮估计，真正吃到高溢价的人，在整个 AI Infra 人群里基本只占 5%~10%。他们大多是在 Infra 行当里深耕了 5 到 10 年的老兵，早年在大型互联网公司做分布式系统、高性能计算、搜索推荐、数据库，起薪本就不低，经验很难被替代。

模型量化是把模型权重和激活值从 FP16/BF16 等高位宽压缩到 FP8、INT8 甚至 INT4 的过程，从而降低显存占用、提升访存带宽利用率并加速计算。常见的量化路径包括训练后量化（PTQ）、量化感知训练（QAT）以及面向特定硬件格式的 W8A8、W4A16 等方案。它之所以是 Infra 高溢价方向之一，是因为量化直接决定了一张卡能塞下多大的模型、能跑出多高的吞吐，同时还要尽量不掉精度。把量化做稳，需要同时理解模型数值特性、CUDA 或国产芯片的算子指令与运行时调度，是算法与系统工程交叉最深的岗位之一。

谁在重金买单：五类买家，五本账

岗位冷热的分化，背后是不同雇主私下的算盘与焦虑。放眼整个行业，愿意为 Infra 溢价买单的买家大致有五类。

字节业务体量大，要的是能把训练推理调度做稳的人。不管是 Seedance 还是豆包，如果推理工程师能加速 10%，一年省下的算力开支相当可观。

腾讯走的是另一条路：早几年基模偏弱，这两年明显在补基模和完整 Infra，单独成立 AI Infra 部门，靠从外部捞成熟团队来补齐。

阿里和百度这类云厂商则是另一种节奏。上一波云计算和大数据的红利期里，他们就攒下大批搞分布式、做底座的 Infra 工程师，AI 浪潮一来，不少人可以直接转岗补缺。加上两家都有自研芯片，重心更多放在异构上，招人也成了日常动作，细水长流，很少有把薪资拉爆的狂热。

真正对 Infra 人才需求暴涨的，是字节、腾讯，外加 DeepSeek、Kimi、MiniMax 这些想要把每张卡效益都榨到极致的独角兽。巨头讲究正规军兵团作战，一个 Infra 部门通常至少五六十人起步；而独角兽们走的是“精简特种兵”模型，Infra 团队通常二十来号人，偏爱既懂算子底层、又能操盘推理引擎的多面手。

最后是一群正在“赌国运”的国产芯片厂商。“不少国产芯片厂商都已经走到 IPO 阶段，期权眼看能兑现，一些 Infra 人才会抱着‘赌一把、财富自由’的想法跳槽过去。”刘立告诉雷峰网。虽然芯片厂开出的现金涨幅普遍在 45% 上下，但那张有可能兑现的股票，本身就是个极有诱惑力的筹码。

有意思的是，熟悉英伟达 CUDA 生态依然是“硬通货”，这类人才跳槽涨幅保底在 80% 以上；国产卡更依赖软硬件协同与复杂的生态适配，涨幅通常在 50% 上下。不过受限于外部限售政策，NV 侧的人才本就不多，而政策又在推动各家采购国产芯片，国产卡这条线上的人，前景反而更有想象空间。

北美市场对 AI Infra 人才同样求贤若渴。OpenAI 近期放出的岗位几乎全被推理引擎、GPU 底层算子与性能加速占据，Anthropic 也有十几个对应职位在招。

CUDA 生态是英伟达围绕其 GPU 构建的软硬件协同体系，包括编程模型、cuDNN/cuBLAS 等加速库、Nsight 性能分析工具以及庞大的算子与调优知识沉淀。熟悉 CUDA 的人才之所以是“硬通货”，是因为他们能直接在 GPU 底层做 kernel 优化、显存搬运优化和通信重叠，把硬件的理论峰值真正压榨出来。相比之下，国产芯片（如昇腾、寒武纪、海光等）的软件栈仍在快速演进，算子库覆盖度和调优工具成熟度不及 CUDA，工程师往往需要同时处理硬件特性、编译器适配和框架对接等更琐碎的工作，跳槽涨幅因此略低，但可替代性也更弱。

这波涨薪还能撑多久？

卢炳宁的判断是，这波涨薪至少还能撑两三年。“现在还处在供不应求的状态，各家厂商基本都在招，薪酬挂得很高。”

之所以还会涨，是因为 Infra 衍生出了很多新业务场景。通用对话基模这块，国内很多厂商布局得差不多了；但复杂垂直场景的落地，才刚刚拉开序幕。无论是狂吃算力的 AI Coding，还是对吞吐与延迟要求极高的高清视频生成赛道，全链路的商业化闭环，很多都还没走完。

AI Infra 的翻身故事，本质上是行业从“讲故事”转向“算细账”的缩影。当大模型商业化被昂贵算力账单持续刺痛时，那些能在算卡上挤出利润的人，自然会获得一路走高的薪酬溢价。只是这波红利，只属于那些真正把系统工程做深的人。