待验证60% 置信事实精确时间

Qwen 3.8（270亿参数，Q4量化）每token需读取约17GB内存

2

来源数

60%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

Mac本地AI选购指南：内存配置与模型速度全解析

涉及实体

相关事实

待验证Qwen3系列中有一个总参数量2.4T、激活参数约95B的MoE模型，模型文件下载需约5TB存储空间75% 相似已验证QLoRA将基础模型权重以4bit NF4格式量化存储，使单卡微调130亿参数模型成为可能73% 相似已验证一个原始需要80GB显存的700亿参数模型经4-bit量化（Q4_K_M档）后仅需约40GB内存，推理质量在多数基准测试中损失通常在3%-8%以内72% 相似待验证运行 14B Q8 模型通常需要至少 16GB 内存72% 相似已验证Q4_K_M 采用混合精度，部分关键权重以 6bit 存储，其余以 4bit 存储，整体平均约 4.5bit72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/891801

API

curl https://kongchang.com/api/v1/knowledge/claims/891801

MCP

get_claim(id=891801)