概念INT8量化 / 8位量化
int8 量化
将模型权重从16位或32位浮点压缩为8位整数存储的量化技术，可显著减少内存占用，常配合量化感知训练（QAT）补偿精度损失
时间轴 (近 90 天)
9月20日
int8 量化会在英伟达 Turing 及更新架构等支持 INT8 矩阵运算的硬件上加速推理
待验证50%
将模型权重从16位或32位浮点压缩为8位整数存储的量化技术，可显著减少内存占用，常配合量化感知训练（QAT）补偿精度损失
int8 量化会在英伟达 Turing 及更新架构等支持 INT8 矩阵运算的硬件上加速推理