待验证50% 置信事实精确时间
博主使用16GB内存、M2 Pro芯片的Mac Mini运行Gemma 3 12B毫无压力
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/17
首次发现
有效期至：2026/12/16
来源
涉及实体
相关事实
待验证27B稠密模型在24GB M4 Pro Mac mini上使用4-bit量化可以运行，速度约为11 tok/s77% 相似已验证有人在一台2020年发布、配备16GB内存的M1 Mac Mini上运行DeepSeek v4.1 Flash模型，每生成一个token需要约23秒76% 相似待验证本地推理受限于用户硬件，一个7B参数量化模型（如Llama 3 8B的Q4版本）文件约4-5GB，在Apple M系列芯片Mac上可达每秒20-40个token，在仅有集成显卡和8GB内存的笔记本上可能降至每秒3-5个token76% 相似已验证Llama 3.3 70B经过4-bit量化后模型大小约为40GB，可在配备64GB内存的Mac Studio或单张48GB显存的专业GPU上运行75% 相似待验证Qwen3 27B 的 4bit 量化版权重仅约 16.1G，可在 32G 内存的 MacBook Pro/Mac Studio 或约 17G 显存的消费级显卡上运行73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/930308API
curl https://kongchang.com/api/v1/knowledge/claims/930308MCP
get_claim(id=930308)