已过期60% 置信事实精确时间
测试使用两款模型的Q4KM量化版本，均为Unsloth的GGUF格式，在llama.cpp上运行
2
来源数
60%
置信度
中期 (~90 天)
时效性
2026/7/9
首次发现
有效期至：2026/10/7(已过期)
来源
16G显存实测：Ornith 35B vs Qwen 35B全方位对决
bilibili程序员-智能译站2026/7/7
相关事实
待验证GGUF 是由 llama.cpp 项目引入的量化模型格式，Q4_K_M 表示 4-bit 量化，相比 F16 可将显存占用减少约 75%72% 相似待验证本地部署使用llama.cpp作为推理后端，采用Unsloth的4bit量化版模型69% 相似已验证Ollama 原生支持 GGUF 格式，大多数模型已预先量化为 Q4_K_M 或 Q8_0 等规格69% 相似待验证Qwen3.8-27B 模型提供 Safetensors、GGUF、NVFP4、NVFP4 的 GGUF 变体和 GPTQ-Int4 量化版本等多种格式69% 相似已验证Unsloth团队发布了基于Dynamic v3量化方案的全新Qwen3.8-27B GGUF模型，在保持相同模型体积的前提下实现额外10%的top-1%精度提升68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/342890API
curl https://kongchang.com/api/v1/knowledge/claims/342890MCP
get_claim(id=342890)