在CPU上，低比特量化权重能直接降低内存带宽压力，并让推理使用int8或更窄位宽的向量化指令（如AVX-VNNI）。