待验证50% 置信事件精确时间
使用 convert_huggingface_to_gguf.py 将 Gemma 2 2B 从 safetensors 转换为 f16 GGUF，实测耗时不到一分钟，输出文件约 5.2GB。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/20
首次发现
有效期至：2026/11/3
来源
Llama.cpp本地运行大模型：GGUF转换与量化实战
bilibilibobolin8882026/10/19
涉及实体
相关事实
已验证Gemma 4的1B/2B模型量化后仅需4GB显存即可运行66% 相似待验证如果 4-bit Gemma 文件仍启动失败，可降级使用 dtype: 'q8'（约 545 MB）作为备选方案。65% 相似待验证d1-omni-600M 各量化格式的磁盘占用：原始 F32 safetensors 2.35 GB，GGUF F16 约 1.2 GB，GGUF Q8_0 约 670 MB，ONNX q8（纯文本）0.41 GB，ONNX q4（纯文本）0.24 GB，ONNX 语音栈 0.67 GB。63% 相似待验证Embedding Gemma 2输出768维向量（可截短到512、256或128维），上下文长度8192 Token，支持100多种语言，采用Apache 2.0许可61% 相似待验证Gemma提供2B（20亿参数）和7B/9B（70-90亿参数）等不同规模版本，2B模型可在普通消费级GPU甚至部分高性能CPU上运行61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1075462API
curl https://kongchang.com/api/v1/knowledge/claims/1075462MCP
get_claim(id=1075462)