为什么AI算力偏爱矩形？Modal CEO拆解Agent云经济学

Modal CEO Erik Bernhardsson 在最新分享中抛出一个看似古怪却直指本质的问题：为什么数据中心里的算力单元总是长方形？从 GPU 板卡到机架服务器，矩形几乎是算力硬件的默认形状。这个观察背后，藏着他对弹性 GPU、沙箱增长和 Agent 云经济学的完整推演。

矩形算力：一个被忽视的物理约束

Bernhardsson 的出发点不是美学，而是物理和制造。芯片光刻、PCB 布线、机架空间分配，都以矩形为最优解。圆形或异形芯片在切割和封装环节会带来额外浪费，而矩形能最大化利用硅片面积和机架纵深。

这个约束会层层传导。GPU 是矩形，服务器是矩形，机架是矩形，数据中心的地板规划也倾向于矩形网格。当云厂商设计弹性算力产品时，底层硬件的矩形属性决定了资源切分的粒度——你很难把一块矩形 GPU 切成完美的圆形份额而不产生碎片。

算力的形状不是设计选择，而是制造和物理规律的结果。理解这一点，才能理解云上资源调度的真实成本。

弹性 GPU：切分矩形有多难

Modal 的核心业务是让开发者按需调用 GPU，而不必关心底层机器。Bernhardsson 在分享中重点讨论了弹性 GPU 的调度难题：用户想要的是细粒度、即时可用的算力，而硬件提供的是整块矩形。

拆解这个矛盾需要多层抽象。容器化让工作负载可以快速迁移，但 GPU 显存和算力的隔离仍然是硬骨头。多租户共享同一块 GPU 时，显存碎片、计算争抢和故障隔离都会推高调度复杂度。Modal 的做法是在调度层做更激进的打包和回收，让闲置算力尽快回到池子里，而不是被单个租户长期占住。

据 Bernhardsson 透露，弹性 GPU 的利用率提升空间仍然很大。传统云上 GPU 的闲置率长期偏高，而 Agent 类工作负载的突发性让这个问题更突出——Agent 可能在几秒内需要大量并发推理，然后又迅速回落。

GPU 显存隔离的难点在于硬件本身缺乏原生的分区机制。传统上，一块 GPU 的显存由驱动统一管理，多进程共享时容易发生显存碎片化——即空闲显存总量足够，但因不连续而无法分配给新任务。NVIDIA 的 MIG（Multi-Instance GPU）技术通过在硬件层将 A100 等型号切分为多个独立实例，提供了接近原生的隔离能力，但并非所有 GPU 型号都支持，且切分粒度固定。更通用的做法是在驱动层或运行时层做时间片轮转和显存池化，但这会引入上下文切换开销和争抢延迟。Modal 等平台通常结合多种手段：对支持的硬件启用 MIG，对不支持的在调度层做更细粒度的打包和抢占式回收，从而在隔离性与利用率之间取得平衡。

沙箱增长：Agent 云的基础设施底座

沙箱是 Bernhardsson 反复提到的另一个关键词。Agent 执行任务时需要隔离环境来运行代码、调用工具、验证结果，沙箱的启动速度和密度直接决定 Agent 的响应体验。

Modal 在沙箱上的投入体现在冷启动优化上。传统虚拟机启动需要数十秒，容器可以做到秒级，而更轻量的隔离方案能把启动压到毫秒级。对于需要频繁创建和销毁环境的 Agent 工作流，这个差距会被放大成数量级的成本差异。

沙箱增长也带来新的经济学问题。每个沙箱都占用内存和存储，闲置沙箱是纯成本。如何在保证隔离安全的前提下，把沙箱的驻留成本压到最低，是 Agent 云平台竞争的关键战场。

多源交叉验证的共识

综合 B 站科技区 UP 主和 YouTube 上多个技术频道的讨论，业内对以下判断存在较高共识：Agent 工作负载的突发性和沙箱密度需求，正在倒逼云平台重新设计调度层；弹性 GPU 的利用率是成本结构的核心变量；冷启动速度是 Agent 体验的隐形门槛。Bernhardsson 的分享与这些判断一致。

存在的分歧

对于沙箱应该做到多轻，社区存在分歧。一派认为微虚拟机（microVM）在安全和启动速度之间取得了最佳平衡，应作为默认方案；另一派则主张进程级隔离配合 seccomp 等机制已经足够，追求更极致的密度。Bernhardsson 在分享中更倾向于务实的工程取舍，没有给出单一答案。

微虚拟机（microVM）是一种轻量级虚拟化技术，典型代表包括 AWS Firecracker、Google gVisor 和 Kata Containers。它保留了硬件虚拟化带来的强隔离边界（每个沙箱拥有独立内核），同时将启动时间压缩到毫秒级，内存开销也远低于传统虚拟机。Firecracker 通过精简的虚拟设备模型和 Rust 实现，能在约 125 毫秒内启动一个 microVM。进程级隔离则依赖 Linux 命名空间、cgroups 和 seccomp 等机制，启动几乎无额外开销，密度更高，但隔离强度较弱，内核漏洞可能被利用逃逸。两者的取舍本质上是安全边界与资源效率的权衡，不同 Agent 场景（如执行不受信任的代码 vs. 运行可信工作流）可能适用不同方案。

Agent 云经济学：算力之外的成本

Bernhardsson 把话题引向经济学时，重点不在 GPU 单价，而在总拥有成本。Agent 云的客户不只为算力付费，还为调度效率、冷启动延迟和运维简化付费。

一个容易被忽略的点是网络和存储的隐性成本。Agent 频繁读写工具输出、日志和中间结果，存储 I/O 和网络往返会侵蚀利润。Modal 的产品设计强调把常用依赖预置到镜像层，减少运行时的拉取开销，这本质上是在优化整条链路的成本结构。

从行业视角看，Agent 云正在从“卖 GPU 小时”转向“卖任务完成度”。按调用次数、按沙箱秒数、按并发峰值计费的混合模式会越来越普遍，而平台的核心竞争力在于把矩形硬件的碎片化损失降到最低。

对开发者的实际启示

Bernhardsson 的分享对一线开发者有几个可操作的启示。评估云平台时，不应只看 GPU 标价，还要看冷启动时间、沙箱密度上限和闲置回收策略。设计 Agent 工作流时，尽量把长任务拆成可缓存、可复用的步骤，减少对即时算力的依赖。

矩形算力是一个隐喻：底层物理约束不会消失，能做的是在约束之上构建更聪明的抽象。Modal 的赌注是，把调度和沙箱做到足够好，开发者就不必再关心矩形的存在。