批量推理指在一次模型调用中同时传入多条独立任务，模型需返回与输入一一对应的结果，这与传统机器学习中的batch size概念不同。