待验证50% 置信事实精确时间
GSQ-RCO-IQ2_XS、Q8_K_XL等命名属于llama.cpp的GGUF量化格式，数字越小表示权重压缩越激进（IQ2约为2比特级）。
1
来源数
50%
置信度
长期有效
时效性
2026/10/31
首次发现
来源
12GB显卡跑68GB大模型：Betelgeuse引擎实测22 tok/s
redditr/LocalLLaMA2026/10/31
涉及实体
相关事实
已验证llama.cpp项目将GGUF量化格式推向主流，支持从Q2_K到Q8_0等多种精度等级67% 相似已验证IQ系列是llama.cpp中针对极低比特率（2-3 bit）场景的量化方案，引入了基于重要性矩阵的非均匀量化网格、向量量化和更精细的超块结构63% 相似待验证IQ3 属于 GGUF 格式下的非均匀量化方案，由 llama.cpp 社区发展而来，相较于早期 Q3_K 等均匀量化方式在同等压缩比下能更好保留关键权重62% 相似待验证Q3_K_XL 是 GGUF 格式中的混合精度量化方案，Q3表示主体权重3-bit量化，K表示k-quant算法，XL代表在关键层使用更高bit数保留精度61% 相似待验证实践中所谓的1-bit GGUF通常采用混合方案：embedding层和lm_head等关键组件保留较高精度，中间transformer层使用极低比特，整体平均比特率可能在1.5-2.0 bit/参数之间60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1120762API
curl https://kongchang.com/api/v1/knowledge/claims/1120762MCP
get_claim(id=1120762)