待验证60% 置信事实精确时间
Q3量化是指将模型权重从FP16格式压缩为平均约3位的整数表示
2
来源数
60%
置信度
长期有效
时效性
2026/9/7
首次发现
来源
涉及实体
相关事实
待验证以Q4_0格式为例，每32个FP32权重被打包为一个量化块，包含一个缩放因子和32个4bit整数，平均每参数约占4.5bit，内存占用缩减至原来的约1/875% 相似待验证Q3_K_M将每个权重压缩至约3bit，27B模型权重体积可降至约12～13GB75% 相似已验证量化技术通过将模型权重从FP32/FP16压缩为INT8/INT4等低精度格式，可将模型体积缩减50%-75%75% 相似待验证Product Quantization等量化技术可将向量压缩到原始大小的1/4到1/3275% 相似待验证原版QW3.6 27B模型文件体积约为54GB，Prismo通过数学压缩技术压缩至不到4GB，压缩比超过13倍，且声称不影响模型性能74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/871774API
curl https://kongchang.com/api/v1/knowledge/claims/871774MCP
get_claim(id=871774)