待验证50% 置信事实精确时间

量化版本名称中的字母后缀代表不同量化策略，K系列使用混合精度对关键层保留更高精度，同等体积下通常优于早期均匀量化方案

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

本地部署大模型选型指南：别再盯着参数和排行榜

涉及实体

GGUFconcept Q4_K_Mconcept

相关事实

待验证文件名中的 K 表示采用 K-quants 算法，由 llama.cpp 引入，能在相同位数下保留更多关键权重精度；M 表示中等精度变体，介于 S（Small）和 L（Large）之间70% 相似已验证Q4_K_M中的K代表k-quants方案，M代表中等质量级别，是llama.cpp引入的混合量化策略68% 相似待验证相比Q4量化，Q8量化保留更高精度接近原始模型质量，但占用更多显存67% 相似待验证K-Quant是llama.cpp生态中的混合精度量化方案，根据每层权重敏感度分配不同量化bit数，可在相同平均bit数下将精度损失降低40-60%67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1005239

API

curl https://kongchang.com/api/v1/knowledge/claims/1005239

MCP

get_claim(id=1005239)