待验证60% 置信事实精确时间
IQ4_XS是llama.cpp生态中的一种非均匀4-bit量化格式，在量化块内使用更精细的缩放因子分配策略
2
来源数
60%
置信度
长期有效
时效性
2026/9/18
首次发现
来源
涉及实体
相关事实
待验证IQ系列是llama.cpp中针对极低比特率（2-3 bit）场景的量化方案，引入了基于重要性矩阵的非均匀量化网格、向量量化和更精细的超块结构79% 相似待验证Q4_K_M是llama.cpp项目引入的一种混合量化策略，对更敏感的层保留较高精度，对其余层使用更激进的压缩68% 相似待验证MXFP4属于MX（Microscaling）系列标准，是分组浮点量化规范，每组权重共享一个缩放因子65% 相似待验证NF4（4-bit NormalFloat）是QLoRA论文（Dettmers et al., 2023）中提出的一种信息论最优的数据类型64% 相似已验证INT4量化理论上可将模型显存占用压缩至FP16的四分之一，常用工具包括GPTQ、AWQ、GGUF等63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/932906API
curl https://kongchang.com/api/v1/knowledge/claims/932906MCP
get_claim(id=932906)