待验证50% 置信事实精确时间

IQ量化是llama.cpp生态中基于重要性加权的非均匀量化方案，IQ2平均每个权重约占用2比特，是主流量化方案中压缩率最高的档位之一

1

来源数

50%

置信度

长期有效

时效性

2026/10/10

首次发现

来源

AI速报：Liquid决策模型与Saluki 27B本地部署盘点

涉及实体

IQ量化concept llama.cppproduct

相关事实

待验证IQ2_XXS以约2.06位的平均比特率对权重编码，相比IQ3_S（约3.44位）或Q4_K_M（约4.83位）压缩率更高但信息损失更大74% 相似待验证IQ（Importance-Quant）系列利用激活值统计衡量每个权重的重要性，对重要权重分配更高精度73% 相似待验证IQ3_S公布的基准数据中有两项指标存在异常，可能导致平均分偏高64% 相似待验证Q2_K量化将模型权重压缩至平均约2.5比特，显存占用降低至原来约六分之一，但会导致模型能力显著退化，被业内戏称为脑叶切除62% 相似待验证推理计算占比预计将达到AI总算力的三分之二62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/994997

API

curl https://kongchang.com/api/v1/knowledge/claims/994997

MCP

get_claim(id=994997)