待验证50% 置信解决方案精确时间
如果 4-bit Gemma 文件仍启动失败,可降级使用 dtype: 'q8'(约 545 MB)作为备选方案。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至:2027/1/12
来源
涉及实体
相关事实
已验证Gemma 4的1B/2B模型量化后仅需4GB显存即可运行68% 相似待验证Gemma 3提供覆盖不同硬件的多种尺寸,包括约1GB的最小版本、中型版本,以及12B/27B等大型版本63% 相似待验证Gemma 3 1B 内存占用低于 1 GB,推理只需数百毫秒,适合在不消耗大量电量的情况下离线运行63% 相似待验证Gemma 4 E2B 的 KV 缓存容量为 321,280 token,是 Granite 3.3 2B(125,184)、SmolLM3-3B(120,320)、Qwen3-1.7B(100,096)、Qwen3-4B(50,688)的 2.6 到 6.3 倍。61% 相似待验证若 GPU 不支持 16-bit shader,Go Outside 会自动切换到同款模型的 q4f32 构建;手机端有使用约 600MB 的 Gemma 3 1B(gemma3-1b-it-q4f16_1-MLC)的更轻选项61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1028553API
curl https://kongchang.com/api/v1/knowledge/claims/1028553MCP
get_claim(id=1028553)