小批量推理时瓶颈在显存带宽，大批量时计算密度上升使算力成为瓶颈，这解释了3090与L40S的性能交叉。