待验证50% 置信事实精确时间
IQ3 属于 GGUF 格式下的非均匀量化方案,由 llama.cpp 社区发展而来,相较于早期 Q3_K 等均匀量化方式在同等压缩比下能更好保留关键权重
1
来源数
50%
置信度
长期有效
时效性
2026/10/8
首次发现
来源
涉及实体
相关事实
待验证IQ4_XS是llama.cpp生态中的一种非均匀4-bit量化格式,在量化块内使用更精细的缩放因子分配策略68% 相似待验证IQ系列是llama.cpp中针对极低比特率(2-3 bit)场景的量化方案,引入了基于重要性矩阵的非均匀量化网格、向量量化和更精细的超块结构68% 相似待验证Q3_K_XL 是 GGUF 格式中的混合精度量化方案,Q3表示主体权重3-bit量化,K表示k-quant算法,XL代表在关键层使用更高bit数保留精度67% 相似待验证llama.cpp支持从Q2_K到Q8_0等多种量化等级,以及基于重要性矩阵(imatrix)的IQ系列量化66% 相似已验证llama.cpp项目将GGUF量化格式推向主流,支持从Q2_K到Q8_0等多种精度等级64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/987280API
curl https://kongchang.com/api/v1/knowledge/claims/987280MCP
get_claim(id=987280)