吞吐

性能评测指标之一，指单位时间内系统能够处理的请求数量或数据量，用于评估模型推理服务在批量请求下的处理能力。