Python 侧单提示 model.generate 在 32K 上下文下对 Llama 和 Qwen3 模型提速最高 2.7 倍；bitsandbytes 4-bit 模型一次生成 2 到 4 个提示时，在某些 NVIDIA GPU 上提速最高 2.8 倍。