概念Model Compression / 网络压缩
模型压缩
在保持模型性能的前提下缩减神经网络规模的技术集合，主要包括权重剪枝、数值量化和知识蒸馏等方法，用于实现模型在资源受限设备上的高效部署
时间轴 (近 90 天)
10月7日
在专业领域、低资源、部署成本敏感的三重约束下，联合优化的压缩技术比单一技术更能兼顾效率与性能
待验证50%
9月17日
体积变小不必然意味着推理更快，如果解压或反量化的开销过大，实际吞吐量可能并不理想
待验证50%
9月11日
量化、知识蒸馏、算子融合等压缩技术叠加使用后，推理速度通常能提升2-4倍
待验证60%
9月9日
模型压缩技术组合使用可将模型大小压缩5-10倍,推理速度提升2-4倍
待验证50%