Autoround

华为诺亚方舟实验室开源的权重量化算法，通过自适应舍入策略在低比特量化下保持较好的模型质量，在4位量化中精度表现优异