在AI负载中，尤其是大模型推理阶段，内存带宽往往比纯算力更能决定实际性能，因为模型参数需要频繁在内存与计算单元之间搬运，带宽不足会导致计算单元空转。