[控场AI]
· 5 分钟阅读· 2,860 字

前Graphcore总裁卢涛加盟铭芯启睿,LPU要跑满血模型卖高铁价

前Graphcore总裁卢涛加盟铭芯启睿,LPU要跑满血模型卖高铁价

铭芯启睿完成超4亿元A轮融资,前Graphcore总裁卢涛出任CEO,带队研发面向满血模型的高速推理LPU。

铭芯启睿完成超4亿元A轮融资,博原资本领投,博世创投、米哈游、兆易创新等跟投,老股东持续加注。前Graphcore总裁兼大中华区总经理卢涛以CEO兼联合创始人身份加入,带队启动第一代LPU研发。卢涛看重铭芯源自中科院刘明院士团队的存储技术积累,以及公司从存储向计算延伸的空间。首款LPU面向数万亿参数完整模型,不依赖量化与投机解码,目标每人每秒1000 Token,并以"高铁价格"实现有限溢价的高速推理。第一代产品不采用RRAM,而是结合SRAM速度与其他介质容量优势,减少芯片数量与互联代价。铭芯的差异化在于存储、计算、软件与产业化经验同队。

铭芯启睿CEO兼联合创始人卢涛

AI推理芯片赛道又添一位重量级玩家。铭芯启睿(MemSilicon)已完成超4亿元A轮融资,由博原资本领投,博世创投、创领资本、米哈游、中关村科学城公司、兆易创新等跟投,老股东复容投资、国开科创、恒裕资本、锦秋基金、顺禧基金、小米战投、中科创星持续加注。更引人注目的是,前Graphcore总裁兼大中华区总经理卢涛以CEO兼联合创始人的身份加入,带队启动第一代LPU(Language Processing Unit)研发。

卢涛为什么选择此时加入

卢涛在半导体行业深耕二十余年,历任Cavium中国区总经理、曦智科技副总裁,覆盖Arm服务器CPU、大SRAM架构的AI处理器IPU以及硅光等领域。他与铭芯的交集始于公司成立的2024年——当时铭芯曾邀请他出任CEO,他没有答应。

转折点出现在GTC。看到黄仁勋发布产品时,卢涛强烈地怀念起与芯片巨头正面竞争的日子:在Graphcore挑战英伟达,在Cavium做服务器CPU对抗英特尔,做交换芯片对抗博通。从零创业是一个选项,但他算了一笔时间账:组建团队、确定架构、融资交割,即使资本市场火热也需要六到九个月,他不确信这波热度能持续多久。加入铭芯,能让他更快起步。

另一个关键因素是铭芯的技术底子。团队源自中国科学院刘明院士团队,拥有二十余年存储技术积累,除RRAM外,在SRAM、MRAM、DRAM等领域也有研究基础。而在此次加入之前,铭芯已决定从存储延伸至计算,恰好给了卢涛自主推进计算产品的空间。

Graphcore与IPU:Graphcore是英国AI芯片初创公司,其核心产品IPU(Intelligence Processing Unit)采用大规模片上SRAM架构,主打细粒度并行与图计算,曾被视为英伟达GPU在AI训练/推理领域最受关注的挑战者之一。卢涛曾任Graphcore总裁兼大中华区总经理,负责其中国市场商业化,这段经历让他同时接触了架构落地与客户付费意愿两端。

GTC:即英伟达GPU技术大会(GPU Technology Conference),是英伟达发布新一代GPU、软件栈与生态路线图的年度旗舰活动,也被视为AI算力风向标。卢涛在GTC上看到黄仁勋发布产品后决定加入铭芯,说明头部厂商的产品节奏会直接影响创业者的入场时机判断。

“know-how”与“know-why”的双重能力

加入后,卢涛迅速组建了一支十几人的LPU核心团队,覆盖硬件、编译器和系统软件等环节。他尤其看重在Graphcore与头部客户实战中积累的经验——新架构如何落地,成功与失败分别因为什么。

卢涛用两个词概括团队能力:know-how(怎么做)和know-why(为什么做)。既知道怎样把芯片做出来,也清楚为什么做、最终要向用户交付什么价值。在他看来,GPU、NPU公司已经足够多,新团队必须从尚未解决的问题出发去定义架构。“把AI芯片做出来很困难,把它卖出去更是不简单。”这是他反复强调的判断。

产品目标:满血模型,高铁价格

铭芯首款LPU面向数万亿参数的完整模型,不依赖量化、投机解码等手段,追求每名用户每秒生成1000个Token的速度。

速度之外还有价格。卢涛用高铁打比方:如果普通车票200元、高铁票却要2000元,就很难普及。高速推理可以比普通服务贵,但溢价必须有限。“它未来不是利基,而是一个主流。”他希望通过存储、计算与互联的联合创新,让LPU跑满血模型、实现高速Token与越级性价比。

卢涛曾参与商业化的Graphcore IPU采用大SRAM架构,SRAM能提供高带宽、低延迟,但面对数万亿参数模型,容量成为硬约束;靠增加芯片来容纳模型,跨芯片互联又会带来成本、功耗和时间开销。铭芯的思路是保留SRAM的速度优势,同时引入其他介质的容量优势,用更少的芯片承载大模型,控制互联代价。

你可能没注意到,第一代LPU不会采用RRAM,而是使用更成熟的存储介质;RRAM仍需攻坚容量,未来再争取与计算产品结合。目前铭芯正与头部云服务商、大模型公司交流,卢涛期望未来两三年内将计算产品交到客户手中,同时推进大容量RRAM研发。

LPU(Language Processing Unit):LPU并非统一标准术语,通常指面向大语言模型推理专门优化的处理器,强调低延迟、高Token吞吐与确定性执行,而非通用训练能力。与GPU依赖高带宽显存和大量并行线程不同,LPU路线往往通过更激进的片上存储、编译调度与数据流设计来降低推理时延。铭芯首款LPU的定位正是推理专用,目标是在完整参数模型上实现高速Token生成。

满血模型、量化与投机解码:"满血模型"指不经过量化压缩、不裁剪参数的完整精度模型。量化(如FP8/INT8)能降低显存占用和带宽压力,但可能损失精度;投机解码(speculative decoding)用小模型草拟、大模型校验来加速生成,属于软件层优化。铭芯提出"不依赖量化与投机解码",意味着其速度目标要靠硬件架构与存储带宽本身兑现,而非靠模型压缩或算法取巧,这对芯片的容量与带宽提出更高要求。

RRAM(阻变存储器):RRAM是一种新型非易失存储技术,通过施加电压改变介质电阻态来存储数据,理论上具备高密度、低功耗、可与CMOS后端工艺集成等优势,被视为存算一体(compute-in-memory)的候选介质之一。但其容量扩展、良率、一致性与耐久性仍是工程难点。铭芯团队源自中科院刘明院士团队,在RRAM上有二十余年积累;文章明确第一代LPU不采用RRAM而选用更成熟介质,说明RRAM当前仍受容量约束,需先攻坚再与计算产品结合。

SRAM架构的容量瓶颈:SRAM速度快、延迟低、带宽高,但单位面积容量小、成本高。Graphcore IPU采用大SRAM架构,在中小模型上优势明显,但面对数万亿参数模型时,单芯片SRAM容量远不足以容纳模型,必须增加芯片数量并依赖跨芯片互联,进而带来成本、功耗与通信时延开销。铭芯的思路是保留SRAM速度、引入其他介质容量,本质是在存储层级上做混合设计以缓解这一瓶颈。

存储与计算同队,才是差异化所在

当前AI芯片赛道拥挤,铭芯的差异化不在单点技术,而在于把存储器件、工艺积累与计算架构、软件及产业化经验放进同一支团队。卢涛的加入,让这家公司的技术积累有机会从存储延伸为完整的计算系统,也为“满血模型、高铁价格”留出了持续演进的空间。

从行业视角看,这条路线能否成立,取决于两个变量:一是混合存储介质方案能否在真实负载下兑现速度与容量的平衡,二是客户是否愿意为高速推理支付有限溢价。前者是工程问题,后者是市场问题,卢涛在Graphcore的经历恰好同时覆盖了这两端。

#铭芯启睿#卢涛#LPU#Graphcore#AI推理芯片#RRAM#大模型推理#AI芯片融资
分享:

相关推荐