4-bit 量化将每个权重参数从 16 位浮点数降至约 4 位整数表示，显存占用减少约 70%-75%。