本地小模型指参数量通常在 1B 到 10B 级别、经过量化压缩后可在消费级硬件上运行的 AI 模型，如 Llama 3.2 3B、Phi-3、Gemma 2 等。