待验证50% 置信事实精确时间

Q2_K量化将模型权重压缩至平均约2.5比特，显存占用降低至原来约六分之一，但会导致模型能力显著退化，被业内戏称为脑叶切除

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

CrofAI造假门：号称全球最便宜的推理服务被扒是套壳骗局

涉及实体

Q2_Kconcept GGUFconcept

相关事实

待验证Q4_K_M是最主流的量化平衡选择，困惑度损失通常低于1%；Q2_K可将70B模型压缩至约26GB但质量下降明显80% 相似已验证量化技术可将模型体积压缩50%-75%，在损失极小精度前提下降低显存占用74% 相似已验证4-bit量化在损失约1-3%准确率的前提下，将模型体积缩减至原来的1/870% 相似已验证模型量化通过用更低精度数值表示替代高精度参数，理论上可将模型体积和计算量缩减2-4倍70% 相似待验证此次压缩使混元模型体积缩减了近87%67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/922188

API

curl https://kongchang.com/api/v1/knowledge/claims/922188

MCP

get_claim(id=922188)