待验证50% 置信发布精确时间
Conway Research放出了Saluki 27B的模型卡，采用IQ2量化将27B参数模型压缩到约7.89GB
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/10
首次发现
有效期至：2027/1/8
来源
涉及实体
相关事实
待验证IQ2_XS可以将模型压缩到接近2 bit/权重，使原本需要48GB显存的70B模型能塞入24GB消费级显卡76% 相似已验证一个原本需要60GB显存的30B参数模型，经过量化后能在16GB甚至8GB显存的消费级显卡上运行71% 相似已验证32B参数规模的模型在量化后通常可以压缩到约16-20GB显存占用，一张NVIDIA RTX 4090（24GB显存）就能运行68% 相似待验证动态GGUF的UD-IQ2_XXS档位将原始BF16模型体积从54.7GB压缩到约9GB，体积压缩率83.5%，准确率保留82.5%67% 相似待验证量化后70亿参数模型的显存需求从约28GB压缩至约4-6GB，普通消费级显卡如RTX 3060/4060即可流畅运行Llama 3、Qwen2.5、Mistral等70亿参数级别模型66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/994994API
curl https://kongchang.com/api/v1/knowledge/claims/994994MCP
get_claim(id=994994)