待验证50% 置信观点精确时间
实践中QAT通常优于PTQ，在4-bit等低比特宽度下尤为明显。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证RTN、GPTQ、AWQ三种4-bit量化方案压缩率相近，但精度保留能力依次递增72% 相似待验证部分标注为q4的ONNX导出因嵌入表保留32位精度而比q4f16版本更大；例如SmolLM2-360M的q4为390MB，q4f16为275MB，两者输出一致。66% 相似待验证大多数消费级 TTS 引擎输出 16-bit PCM，16-bit 已足够覆盖正常听音环境；24-bit 仅在多轨混音、EQ 或压缩等后期处理时提供额外余量。65% 相似待验证MiniCPM和Qwen-0.5B等1B以下轻量模型配合INT4量化可以在手机芯片上运行65% 相似待验证显存小于16GB时建议考虑 Q2 或切换至更小参数模型，不建议使用 1-bit65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1053587API
curl https://kongchang.com/api/v1/knowledge/claims/1053587MCP
get_claim(id=1053587)