待验证50% 置信事实精确时间
BitNet b1.58采用三值量化,每个权重取-1、0或+1三个值,约1.58 bit(log₂3)
1
来源数
50%
置信度
长期有效
时效性
2026/8/24
首次发现
来源
涉及实体
相关事实
待验证三值化权重每个权重仅携带约1.58 bits信息量(log₂3≈1.585),相比FP32的32 bits信息密度下降约20倍72% 相似待验证Bonsai三元版为1.71 bits约6GB,保留基座模型约97%质量;1-bit版为3.9GB,保留约90%质量64% 相似待验证MXFP4格式将一组元素(通常32个)共享一个8-bit缩放因子,每个元素用4-bit微型浮点数表示(1位符号+2位指数+1位尾数)59% 相似待验证以Q4_0格式为例,每32个FP32权重被打包为一个量化块,包含一个缩放因子和32个4bit整数,平均每参数约占4.5bit,内存占用缩减至原来的约1/858% 相似待验证腾讯混元发布了Hunyuan3(Hi3)的1Bit和4Bit量化版本,原版模型总参数295B,BF16权重接近598G,1Bit版本压缩后单张96G显存显卡即可运行57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/795618API
curl https://kongchang.com/api/v1/knowledge/claims/795618MCP
get_claim(id=795618)