大语言模型的推理成本远高于传统Web服务，每次对话请求可能触发数十亿参数的计算，显存占用大、批处理窗口窄、GPU调度复杂，增加服务器数量并不总能线性提升服务容量。