待验证50% 置信事实精确时间
q4f16_1 是 MLC LLM 中的一种混合精度量化方案：q4 表示权重被量化为 4 位整数，f16 表示激活值和部分计算仍使用 16 位浮点数，_1 指代分组量化中的组大小等细节配置。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
已验证GGUF 量化命名中 Q4_K_M 表示 4 位量化、使用 K-Quant 分组量化方法的中等精度（Medium）变体78% 相似待验证Q4_K_M量化大约表示每个权重4位，并对异常值采用特定方案，在内存受限的机器上通常是甜点选择。77% 相似待验证Q4是4位量化，IQ3是3位重要性感知量化，Qwen3 27B在IQ3下体积约11-12GB、Q4约15-16GB76% 相似待验证Q4量化可将模型体积缩减至原来的约四分之一，MLX原生支持分组量化（Group Quantization）75% 相似待验证Q4_K方案使用4位量化，将权重分为超级块（256个权重）和子块，每个子块有独立缩放因子，超级块拥有更高精度的全局缩放因子74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1066260API
curl https://kongchang.com/api/v1/knowledge/claims/1066260MCP
get_claim(id=1066260)