待验证70% 置信事实精确时间
W4A16量化中W4表示权重以4位整数存储，A16表示激活值保持16位浮点精度，可将显存占用压缩至约四分之一
2
来源数
70%
置信度
长期有效
时效性
2026/9/13
首次发现
来源
涉及实体
相关事实
待验证W4A16量化指权重以4-bit存储、激活值保持16-bit的混合精度方案，相比Q4_K_M保留更高精度的激活路径，配合marlin等专用CUDA kernel可在NVIDIA显卡上获得更高吞吐，但显存占用更刚性、对kernel支持要求更苛刻。75% 相似待验证一张1024×1024的未压缩RGBA纹理占据4MB存储空间74% 相似已验证INT4 相较 FP16 实现了 4 倍存储压缩74% 相似已验证Q4_K_M 采用混合精度，部分关键权重以 6bit 存储，其余以 4bit 存储，整体平均约 4.5bit73% 相似待验证标量量化将float32映射至int8，内存压缩比为4:173% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/919204API
curl https://kongchang.com/api/v1/knowledge/claims/919204MCP
get_claim(id=919204)