AI算力瓶颈催热光学计算:70年老技术迎来第二春

AI推理功耗瓶颈推动光学计算复兴,市场估值从4亿增至22.2亿美元,但实际能效提升受编码开销限制。
光学计算利用光子进行矩阵-向量乘法,理论上能耗随向量长度N而非N²增长,有望突破AI推理的功耗墙。行业估值从2022年的4亿美元升至22.2亿美元。自由空间路线(Lumai、Neurophos)追求大规模并行,集成光子路线(Q.ANT、光曦科技)押注可制造性。部分公司绕开矩阵乘法,用光学傅里叶变换或光腔解微分方程。然而编码开销、模数转换能耗和Amdahl定律将实际收益限制在10到80倍能效提升,系统规模需达到N在1000到10000之间光学才占优。业界普遍认为光学计算短期内不会取代GPU,更可能形成异构数据中心。
AI算力瓶颈催热光学计算:70年老技术迎来第二春
用光来做计算的想法已经存在了70多年,但长期以来基本停留在实验室里。情况正在改变:据IEEE Spectrum报道,光学计算公司的市场估值已从2022年的4亿美元增长到22.2亿美元,而推动这轮热潮的核心力量正是AI推理。
为什么是现在:AI推理撞上功耗墙
AI推理——用模型回答用户查询的过程——是AI能耗的大头,也是数据中心大规模扩张的主要推手。康奈尔大学应用与工程物理副教授Peter McMahon研究光学计算超过十年,他的判断很直接:「光子学的大部分兴趣,都来自AI推理已经实实在在地被功耗卡住了,而且卡得相当明显。」
光学计算的吸引力在于理论上的能效优势。推理计算的核心是一个被反复执行的操作:矩阵-向量乘法。电子芯片做N×N矩阵与长度为N的向量相乘,需要N²次乘法,每次乘法都要消耗能量,总能耗随N²增长。而光学的乘法步骤是被动的:光穿过衰减器完成乘法,只要矩阵不变,这一步几乎不耗能;真正的开销在于把向量编码成光、以及读出结果,而向量长度是N,不是N²。
这套思路可以追溯到1978年光学计算先驱Joseph W. Goodman提出的方案:用一排LED把向量元素编码成光强,柱面透镜把光扩散N次,穿过N×N像素的衰减器完成乘法,再用另一个透镜汇聚求和,最后由探测器读出结果。
McMahon团队在2022年展示的光学神经网络,每次乘法操作消耗不到一个光子能量,约2.5×10⁻¹⁹焦耳;而标准计算机单次乘法约需10⁻¹⁴到10⁻¹²焦耳——看起来是十万倍的差距,但McMahon本人提醒不要这样外推。编码数据的成本没有计入,而且系数同样重要:假设电子乘法每次1皮焦耳,光学编码每个向量元素要1000皮焦耳,那么向量长度N小于1000时,电子方案仍然占优。他给出的粗略答案是,系统规模要到N在1000到10000之间,光学才开始赢。
另一个常被忽略的原则是Amdahl定律。McMahon说这不是什么定律,只是常识:如果一个加速器能加速90%的代码,剩下10%加速不了,最大加速比就只有10倍。推理工作负载中,矩阵乘法只是一部分,还有非线性操作需要电子电路处理。综合这些限制,当前光学计算公司的目标是比现有GPU提升10到80倍的能效。
矩阵-向量乘法为何是AI推理的核心
矩阵-向量乘法(Matrix-Vector Multiplication, MVM)之所以成为AI推理的基本操作,是因为神经网络中绝大多数计算都发生在线性层。一个全连接层或Transformer中的注意力投影,本质上都是将输入向量与权重矩阵相乘。对于一个N层网络、每层宽度为N的模型,一次前向传播涉及的乘加操作数量大致与N²成正比。GPU之所以在AI时代占据主导,正是因为它拥有大量并行乘加单元,能够高效执行这类稠密线性代数运算。然而,电子芯片的能耗与开关晶体管数量直接相关,矩阵越大、乘法次数越多,功耗就越高——这正是光学计算试图从物理层面绕开的瓶颈。
自由空间路线:在空气中做矩阵乘法
英国牛津的初创公司Lumai选择了最接近Goodman原型的路线:光在空气中传播,而非在芯片波导中。与Goodman的固定衰减器不同,Lumai使用空间光调制器——一种类似液晶显示屏的像素化薄膜,可以同时调制光的强度和相位。完整流程是:向量编码成光,透镜复制N次,穿过空间光调制器,另一个透镜收集,结果转回数字电子处理非线性函数。产品负责人Phillip Burr的说法是:「一次完整的向量-矩阵乘法在一个光学周期内完成。」
Lumai聚焦推理中计算密集的prefill阶段(处理输入查询并让其在模型中传播),而非受内存带宽限制的decode阶段。该公司称其Iris Nova光学服务器是概念验证,下一代Iris Aura服务器做prefill的能耗大约是GPU的十分之一。
德州奥斯汀的Neurophos则用超材料改造Goodman的设计。超材料结构比单个波长小,但仍只有几微米见方。CEO Patrick Bowen对比道:「今天标准硅光子学能做出的光学晶体管等效物大约2毫米长,你没法在芯片上塞进足够多的这种器件,去和台积电最先进工艺的计算密度竞争。」Neurophos的调制器阵列达到1000×1000,芯片边长5毫米,据称开关速度是标准液晶空间光调制器的一万倍以上。Bowen还宣称其目标是对标英伟达Blackwell B200的50倍速度和35倍能效,后续世代规划到250倍速度和约90倍能效,并且工艺与CMOS兼容,计划2028年向客户交付整机。
空间光调制器与超材料调制器
空间光调制器(Spatial Light Modulator, SLM)是一种能够对光波的振幅或相位进行空间分布调制的器件,常见实现包括液晶微显示(LCoS)和数字微镜器件(DMD)。在光学计算中,SLM充当可编程的“权重矩阵”:每个像素对应矩阵的一个元素,通过调节该像素的透射率或相位延迟,即可让经过的光乘上相应系数。其优势是可动态刷新、无需流片,但液晶SLM的开关速度通常在毫秒到微秒量级,限制了计算吞吐。超材料调制器则利用亚波长人工结构实现电光调制,速度可提升数个数量级,且尺寸更小,但制造复杂度和成本更高。两者分别代表了光学计算在“灵活性”与“密度和速度”之间的不同取舍。
片上光子路线:用可制造性换性能
自由空间方案有3D并行的优势,但耶鲁大学应用物理助理教授Logan Wright指出其根本困难:「自由空间方案的前景在于能做尽可能大的向量,但基础设施比硅光子学少太多了。」
德国斯图加特的Q.ANT和上海的光曦科技(Lightelligence)选择了集成光子路线。Q.ANT创始人兼CEOMichael Förtsch直言:「自由空间光学通常一年只能做1000台,原因很充分——透镜检测、装配策略等等。半导体可制造的集成光子回路目前更有希望实现量产。」
Q.ANT的方案把输入数据通过片上调制器编码成光脉冲的相位和振幅,一个向量表示为一系列脉冲,用波导在芯片上引导。基本计算单元是干涉仪:波导分成两路,其中一路的光经受控电压移相,两路重新汇合时干涉结果完成一次乘法。光子探测器和模数转换器把结果变回数字数据。这种串行化方案比Goodman的一次性计算慢,但可以用多波长同时编码多个向量来弥补。
Q.ANT的Native Processing Server已在慕尼黑莱布尼茨超级计算中心和于利希超级计算中心等研究机构使用,并宣布向云服务商Ionos完成商业销售。光曦科技的PACE2处理器能完成128×128矩阵乘法,2025年发表的论文描述了1吉赫兹频率、3纳秒延迟的向量-矩阵乘法,称延迟比传统GPU低两个数量级。
但能效优势尚未得到确凿证明。Förtsch承认问题主要出在模数转换的能耗上,只要快速低能耗的转换器还不存在,「我们认为光学通用向量-矩阵乘法机器没有现实机会」。
马赫-曾德尔干涉仪与光子集成电路
片上光子计算的核心器件是马赫-曾德尔干涉仪(Mach-Zehnder Interferometer, MZI):输入波导分为两臂,其中一臂通过热光或电光效应改变相位,两臂重新合并时发生干涉,输出光强取决于相位差,从而完成一次乘法。将多个MZI级联即可实现任意矩阵变换。这种方案完全兼容标准CMOS光子工艺,可在硅晶圆上批量制造,但每个MZI都带有插入损耗和相位误差累积问题,且调制器和探测器占用面积较大。与自由空间方案相比,片上集成的向量维度通常受限(目前多在百量级),但胜在可制造性和与现有半导体生态的衔接,这正是Q.ANT和光曦科技选择该路线的根本原因。
绕开矩阵乘法:傅里叶变换与微分方程
并非所有公司都盯着矩阵-向量乘法。傅里叶变换这种常见操作,在光学中用一个透镜就能完成。Förtsch说:「数字芯片必须用几百到几千个晶体管、更多的计算周期,分很多小步去近似傅里叶变换。使用这类非线性函数的模型可以用更少参数和更少操作达到同等或更好的精度。」因此Q.ANT认为其最大优势在于利用更复杂函数的替代AI架构,例如图像分类、分割以及图像和视频生成。
以色列的LightSolver走得更远。CEO兼联合创始人Ruti Ben-Shlomi说:「传播的电磁波本质上就是在解微分方程。」公司的激光处理单元(LPU)把Goodman式的输入光、空间光调制器和输出光放进一个腔体中,光在里面来回反射多次直到达到稳态,腔内还有增益介质让光强不断累积。问题编码进调制器后,增益介质受激发射随机光子,光在往返中经历预编程的变化并相互作用,最终达到稳态即解,用相机拍下结果即可。团队通过仿真展示,LPU解微分方程比GPU快40到80000倍,具体取决于工作流,能效提升仍在基准测试中。
光学傅里叶变换的物理原理
傅里叶变换之所以在光学中“免费”,源于透镜的物理特性:平行光经过透镜后,在后焦面上自然形成输入光场的空间傅里叶变换。这意味着复杂的光场分解为不同空间频率的分量,无需任何数字迭代或晶体管近似。数字芯片执行快速傅里叶变换(FFT)需要O(N log N)次运算,而光学透镜对N个元素一次性完成变换,延迟仅为光传播时间。这一特性对卷积、滤波和某些微分方程求解尤为有利,因为卷积在频域中退化为逐点乘法,光学系统可以极低功耗地完成。限制在于精度和动态范围受探测器与调制器线性度制约,且可编程性不如数字芯片灵活。
在数据传输途中计算
英国利兹的Optalysys盯上了AI工作负载中本来就在光域的部分:网络。数据中心机架之间用光纤连接,光连接正越来越靠近GPU和CPU。部分计算已经在数据传输途中发生,比如在交换机卡内合并来自多个GPU的结果,但这些卡做数学要耗电;用无源光学元件,这些计算几乎可以免费完成。
创始人兼首席产品官Nick New有自由空间光学背景,他明白用光做傅里叶变换很容易。Optalysys的关键是把这种能力搬到芯片上:「今天我们不用透镜,而是有自己的元件,是硅平面上一个无源元件,做同样的工作。」通过巧妙设计多输出,还能从中提取不同的数学运算。公司瞄准的是内存受限的应用,比如decode阶段以及GPU与内存之间的通信,做压缩和格式转换。New的总结是:「我们实际上是在目前没有处理能力的地方加上了处理能力。」
光学计算会取代GPU吗
Wright并不乐观:「算法发展的方向不会自动对光学有利。事实上,它更可能朝相反方向走,因为模型开发者希望它在GPU上跑得更好。」但他和其他研究者仍抱有谨慎乐观:英伟达和台积电正在投资共封装硅光子学,不是为了计算,而是为了电路交换和互连,这为未来做更多事情打开了门。
Förtsch描绘的未来图景是异构数据中心:CPU、GPU和光子神经处理单元各司其职,把每个任务跑在最合适的硬件上,从而显著降低能耗和运营成本。光学计算未必会取代GPU,但它正在找到属于自己的位置。
相关推荐

llm-gemini 0.38.1 修复:Gemini 4 Hydrogen 与 Neon 新增 xhigh 推理级别
llm-gemini 0.38.1 修复了 Gemini 4 Hydrogen 和 Neon 缺失 xhigh 推理级别的问题。对比数据显示,xhigh 档位使 Hydrogen 的输出 token 与成本大幅上升,画面质量明显提升,达到可与 Neon 竞争的水平。
美SEC对英伟达展开调查:或涉会计问题
美SEC对英伟达展开调查:或涉会计问题
美国SEC对英伟达的调查聚焦潜在会计问题,而非产品本身。消息引发Hacker News热议,市场关注AI芯片巨头的财务披露质量与监管信号。

FBI犯罪数据库疑遭黑客攻击,特朗普回应“情况不妙”
FBI国家犯罪信息中心(NCIC)据报遭黑客攻击,FBI已展开调查,特朗普回应称“情况不妙”。本文梳理事件核心、NCIC数据库的重要性及执法数据安全面临的挑战。