机架级系统通过统一的高速互联（如 NVLink）和共享内存池，让跨卡通信保持在较低延迟，从而支撑大模型的实时推理。