训练需要海量显存与卡间互联带宽，几乎必须依赖专业加速卡；而推理对互联要求低，更看重单卡显存容量与单位成本。