RDMA
一种允许计算机直接访问另一台计算机内存的技术，无需操作系统介入，可显著降低延迟并提升高性能计算和分布式系统中的数据传输效率
核心事实
时间轴 (近 90 天)
跨节点LLM推理的可行性根本上受网络互连延迟约束：在标准以太网上运行跨节点张量并行会引入巨大同步延迟，只有具备低延迟RDMA或高速专用链路才具备实用价值。
Modal 集群最多支持 32 个节点和 256 块 GPU，配备 3,200 Gbps RDMA 网络（B300 上为 6,400 Gbps），采用帮派调度并物理同地部署，每个节点必须使用其所有 GPU。
GPU发起的网络通信依赖于GPUDirect RDMA和RDMA两项关键底层技术
RDMA允许一台机器直接读写另一台机器的内存，绕过操作系统内核和CPU的介入，降低延迟
RDMA对网络无损（无丢包）环境要求极高，需要配合优先级流控（PFC）等机制，运维复杂度高于TCP
RoCE是RDMA在标准以太网上的实现，相比需要专用InfiniBand网络的传统RDMA部署成本更低
Homa的目标之一是在普通以太网上实现接近RDMA的低延迟性能，同时降低对网络无损特性的依赖
GIN通过在GPU内核中直接调用RDMA原语，消除CPU往返调度的固定开销
DGX Spark上CX7网卡号称1.5微秒延迟，但因RDMA需绕CPU到GPU，实际延迟约20微秒
RDMA允许网卡绕过CPU和OS直接在两台机器内存间搬运数据，延迟可降至微秒级，几乎不占用CPU资源
还有 1 条时间轴事件
全部知识事实 (15)
RDMA允许网卡绕过CPU和OS直接在两台机器内存间搬运数据，延迟可降至微秒级，几乎不占用CPU资源
75%已验证Cube Studio支持RDMA高速网络用于大规模分布式训练的通信优化
75%待验证Mooncake通过RDMA网络实现近乎零拷贝的跨节点KV Cache共享
85%待验证RDMA技术可以将网络通信延迟降低到亚微秒级，在大规模分布式训练中可将训练效率提升20%-50%
75%待验证在千亿参数大模型训练中，节点间通信开销可能占总训练时间的30%-50%
60%待验证跨节点LLM推理的可行性根本上受网络互连延迟约束：在标准以太网上运行跨节点张量并行会引入巨大同步延迟，只有具备低延迟RDMA或高速专用链路才具备实用价值。
50%待验证Modal 集群最多支持 32 个节点和 256 块 GPU，配备 3,200 Gbps RDMA 网络（B300 上为 6,400 Gbps），采用帮派调度并物理同地部署，每个节点必须使用其所有 GPU。
50%待验证RDMA允许一台机器直接读写另一台机器的内存，绕过操作系统内核和CPU的介入，降低延迟
50%待验证GPU发起的网络通信依赖于GPUDirect RDMA和RDMA两项关键底层技术
50%待验证RDMA对网络无损（无丢包）环境要求极高，需要配合优先级流控（PFC）等机制，运维复杂度高于TCP
50%待验证RoCE是RDMA在标准以太网上的实现，相比需要专用InfiniBand网络的传统RDMA部署成本更低
50%待验证Homa的目标之一是在普通以太网上实现接近RDMA的低延迟性能，同时降低对网络无损特性的依赖
50%待验证GIN通过在GPU内核中直接调用RDMA原语，消除CPU往返调度的固定开销
50%待验证DGX Spark上CX7网卡号称1.5微秒延迟，但因RDMA需绕CPU到GPU，实际延迟约20微秒
50%待验证InfiniBand或RoCE高速网络通过RDMA技术直接访问远程节点内存，绕过了传统TCP/IP协议栈的安全机制
50%