待验证50% 置信事实精确时间

Gemma 3提供覆盖不同硬件的多种尺寸，包括约1GB的最小版本、中型版本，以及12B/27B等大型版本

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

Gemma 3 QAT详解：1GB内存手机离线跑大模型

涉及实体

相关事实

待验证Gemma 3 12B的FP16版本约需24GB显存，Q4_K_M版本降至约7-8GB，推理速度提升约2-3倍，结构化输出准确率仅损失约2-5%75% 相似已验证Gemma 4的1B/2B模型量化后仅需4GB显存即可运行71% 相似待验证Gemma 4 26B MOE版本可在24GB显存的显卡上运行69% 相似待验证Gemma 3 12B官方支持的上下文长度为128K token，但在Ollama中默认num_ctx仅为204868% 相似待验证Gemma 4 26B MOE版本支持256K超长上下文窗口68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/905775

API

curl https://kongchang.com/api/v1/knowledge/claims/905775

MCP

get_claim(id=905775)