待验证85% 置信事实时间未知
Docker Model Runner使用GGUF格式的量化模型文件，这些文件被打包为符合OCI规范的artifact
1
来源数
85%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
Docker Model Runner使用教程：一条命令本地运行AI模型
bilibili比特光锥_BightCone
涉及实体
相关事实
已验证模型权重通常以GGUF格式分发，这是由llama.cpp项目定义的一种专为CPU/GPU混合推理优化的模型文件格式69% 相似待验证测试使用两款模型的Q4KM量化版本，均为Unsloth的GGUF格式，在llama.cpp上运行65% 相似待验证GGUF is the default quantization format used by Ollama, optimized specifically for CPU and hybrid inference scenarios.61% 相似已验证GGUF是llama.cpp生态广泛使用的格式，支持2bit至8bit灵活量化粒度，对CPU推理友好61% 相似待验证Ollama 原生支持 GGUF 格式，大多数模型已预先量化为 Q4_K_M 或 Q8_0 等规格59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/16759API
curl https://kongchang.com/api/v1/knowledge/claims/16759MCP
get_claim(id=16759)