ModelBitNet b1.58 / 1.58-bit LLM
BitNet b1.58
微软研究院提出的三元权重大语言模型，权重限制为-1、0、+1三个取值，从训练阶段引入三元约束，天然适配极低比特推理，每权重理论存储约1.58比特
Timeline (last 90 days)
Jul 17
微软研究院于2023年首次提出BitNet，并于2024年推出进化版本BitNet b1.58
Unverified60%
微软研究院提出的三元权重大语言模型，权重限制为-1、0、+1三个取值，从训练阶段引入三元约束，天然适配极低比特推理，每权重理论存储约1.58比特
微软研究院于2023年首次提出BitNet，并于2024年推出进化版本BitNet b1.58