待验证50% 置信基准精确时间

Gemma 3 12B的FP16版本约需24GB显存，Q4_K_M版本降至约7-8GB，推理速度提升约2-3倍，结构化输出准确率仅损失约2-5%

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/13

首次发现

有效期至：2026/10/11

来源

本地Gemma 3 12B变身AI Agent实战指南：工具调用与框架选择

redditr/aiagents2026/7/12

相关事实

待验证Gemma 4 26B模型约17GB，适合24GB以上显存的显卡，编程效果最佳78% 相似待验证Gemma 4 26B MOE版本在24GB显存GPU上实际推理速度达到每秒60个Token77% 相似待验证Gemma 4 31B 经量化后模型大小约为 20GB，实测 GPU 显存占用约 20.5GB，GPU 利用率约 91%77% 相似已验证Gemma 4的1B/2B模型量化后仅需4GB显存即可运行76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/501965

API

curl https://kongchang.com/api/v1/knowledge/claims/501965

MCP

get_claim(id=501965)