待验证50% 置信事实精确时间

IQ3_XXS 是 llama.cpp 体系中一种极度激进的非均匀整数量化格式，平均约 3 bits 精度，采用 importance matrix 引导的非均匀量化

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

32G显存跑Qwen3 MoE大模型？实测本地部署新方案

涉及实体

IQ3_XXSconcept llama.cppproduct

相关事实

待验证IQ3_S是一种非均匀3位整数量化方案，相较于标准Q4量化精度损失更大但体积与显存需求更小79% 相似待验证IQ3_S属于重要性感知量化（Importance-aware Quantization）系列方案的一种77% 相似待验证IQ3_S命名中数字3表示平均每个权重使用约3比特存储，后缀S代表在同等比特数下使用更精细的分组策略75% 相似待验证IQ3_S的基准表现基本接近BF16原始精度72% 相似待验证IQ3_S相较于更早的IQ3_XXS版本综合表现有明显提升70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1000737

API

curl https://kongchang.com/api/v1/knowledge/claims/1000737

MCP

get_claim(id=1000737)