非均匀量化

欧洲团队发布了DeepSeek的极限量化版本，将7630亿参数的模型压缩到平均1.75位，在主流基准上近乎零损失。

非均匀量化根据权重分布动态分配比特，高频重要权重保留更多精度，长尾权重压到极低比特，从而在平均位宽极低时仍维持较小误差。