待验证50% 置信事实精确时间

2023年Meta开源Llama模型后，社区通过GGML（后演进为GGUF格式）、GPTQ、AWQ等量化技术可将数十亿参数模型压缩到消费级GPU甚至CPU上运行

1

来源数

50%

置信度

长期有效

时效性

2026/9/3

首次发现

来源

优质AI/ML工程师社区推荐与选择指南

涉及实体

Metacompany Llamamodel GGUFtechnology GPTQtechnology AWQtechnology

相关事实

待验证GGUF由llama.cpp项目引入，于2023年成为社区主流模型格式，支持在单一文件中存储模型权重、分词器配置与超参数，并支持多级量化77% 相似待验证GGUF是llama.cpp于2023年下半年推出的第二代模型封装格式，采用键值元数据头部设计，支持内存映射（mmap）加载70% 相似已验证GGUF格式于2023年8月由llama.cpp社区推出，作为GGML格式的替代方案70% 相似待验证GLM系列是智谱AI推出的主力大模型，在开源社区和商业部署中均有影响力69% 相似待验证GLM 5.2支持100万Token上下文，经实测真实可用67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/850184

API

curl https://kongchang.com/api/v1/knowledge/claims/850184

MCP

get_claim(id=850184)