待验证50% 置信发布精确时间
南北格 4.3-33B 推出 GGUF 量化全重支持，基础模型支持最长 512K token 上下文，并提供 Llama.cpp 和 Ollama 的配置示例。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/30
首次发现
有效期至：2027/1/28
来源
涉及实体
相关事实
已验证llama.cpp通过GGUF格式对模型权重进行4-bit、8-bit等量化压缩，大幅降低显存和内存占用72% 相似待验证对显存有限的用户，建议优先选择4-bit或5-bit量化的GGUF版本，以在性能与质量之间取得平衡70% 相似待验证GGUF、AWQ等量化格式能将数百亿参数模型压缩至消费级GPU可运行的体积，同时保持接近原版的性能66% 相似待验证GLM-5.3-Flash借助Unsloth的1-bit GGUF量化可在102GB的RAM与VRAM组合内存上运行，上下文长度达到1M token66% 相似已验证GGUF格式支持4-bit、8-bit等多种精度级别，可将70亿参数模型的内存占用从约14GB（FP16）压缩至约4GB（Q4_K_M量化），推理精度损失通常在1-3%以内66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1114981API
curl https://kongchang.com/api/v1/knowledge/claims/1114981MCP
get_claim(id=1114981)