待验证50% 置信事实精确时间
主流量化算法GPTQ、GGUF、AWQ在INT4精度下仍能保持较高能力保留率，是HuggingFace和llama.cpp生态的主流格式
1
来源数
50%
置信度
长期有效
时效性
2026/7/9
首次发现
来源
GLM-5.2完全使用指南：开源长上下文模型实测评测
bilibili英文白斑马2026/7/4
相关事实
已验证社区主流量化格式包括GGUF、AWQ和GPTQ，其中GGUF由llama.cpp项目推广并支持CPU推理71% 相似已验证GGUF格式由llama.cpp项目主导，支持Q2_K至Q8_0等多个精度档位，Q4_K_M是社区公认的质量与体积平衡点67% 相似待验证AWS CloudWatch和GCP Billing提供的用量报告可以精确到单次API调用级别，支持按资源、时间段、标签等多维度筛选导出64% 相似待验证Llama-3.1 采用分组查询注意力（GQA）减少KV缓存开销，前馈网络使用SwiGLU激活函数，采用RMSNorm层归一化63% 相似待验证主流向量数据库Pinecone、Weaviate、Qdrant、pgvector等底层普遍采用HNSW近似最近邻索引算法62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/397153API
curl https://kongchang.com/api/v1/knowledge/claims/397153MCP
get_claim(id=397153)