模型

Gemma 2 2B

Google DeepMind 发布的轻量级开源大语言模型，属于 Gemma 2 系列，参数量为 2B，适用于本地部署和资源受限场景。

时间轴 (近 90 天)

10月20日

使用 convert_huggingface_to_gguf.py 将 Gemma 2 2B 从 safetensors 转换为 f16 GGUF，实测耗时不到一分钟，输出文件约 5.2GB。

待验证50%

10月12日

Go Outside 的默认模型是 gemma-2-2b-it-q4f16_1-MLC-1k，即 Gemma 2 2B 指令版、4-bit 量化、1k 上下文窗口

待验证50%

Go Outside 的默认模型是 gemma-2-2b-it-q4f16_1-MLC-1k，即 Gemma 2 2B 指令版、4-bit 量化、1k 上下文窗口

使用 convert_huggingface_to_gguf.py 将 Gemma 2 2B 从 safetensors 转换为 f16 GGUF，实测耗时不到一分钟，输出文件约 5.2GB。