待验证50% 置信事实精确时间

文件名中的 K 表示采用 K-quants 算法，由 llama.cpp 引入，能在相同位数下保留更多关键权重精度；M 表示中等精度变体，介于 S（Small）和 L（Large）之间

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

本地大模型怎么选？四个标准帮你精准对号入座

涉及实体

K-quantsconcept llama.cppproduct

相关事实

待验证llama.cpp 采用的 K-Quants 技术将权重分组（通常每32或64个权重一组），对每组使用 K-means 聚类算法寻找最优量化码本74% 相似已验证Q4_K_M中的K代表k-quants方案，M代表中等质量级别，是llama.cpp引入的混合量化策略73% 相似待验证K-Quant是llama.cpp生态中的混合精度量化方案，根据每层权重敏感度分配不同量化bit数，可在相同平均bit数下将精度损失降低40-60%72% 相似待验证MoE的路由器通常采用Top-K机制，对每个token只选择得分最高的K个专家，常见配置为K=262% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/984401

API

curl https://kongchang.com/api/v1/knowledge/claims/984401

MCP

get_claim(id=984401)