本地推理的速度主要由模型参数量、量化精度、硬件算力和 batch size 四个变量决定。