已验证80% 置信事实精确时间

GGUF是由llama.cpp项目引入的模型格式标准，支持Q2_K至Q8_0等多种量化级别

8

来源数

80%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

本地小模型成为软件专家？RAG架构实战方案解析

相关事实

已验证GGUF（GPT-Generated Unified Format）是由llama.cpp项目定义的模型文件格式70% 相似待验证Ollama默认使用GGUF格式，常见量化格式还包括GPTQ69% 相似待验证GLM-5.2的ModelKey为GLM-5.268% 相似待验证推理框架选择决定量化格式：vLLM或TGI适合选GPTQ/AWQ，ollama或llama.cpp则选GGUF68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/533256

API

curl https://kongchang.com/api/v1/knowledge/claims/533256

MCP

get_claim(id=533256)