待验证50% 置信事实精确时间
BitNet b1.58采用三值量化,每个权重取-1、0或+1三个值,即log₂(3)≈1.58 bit
1
来源数
50%
置信度
长期有效
时效性
2026/8/25
首次发现
来源
涉及实体
相关事实
待验证1-bit量化(如BitNet b1.58)将每个参数用-1、0、+1三值表示,目前主要停留在研究阶段80% 相似待验证4-bit量化只能表示16个离散值,1-bit只有2个,三元量化(-1/0/+1)只有3个可能值74% 相似待验证1-bit量化研究可追溯至微软研究院2024年发布的BitNet论文,提出用三值权重(-1, 0, 1)替代全精度浮点数,BitNet b1.58进一步证明1.58-bit在从头训练场景下的可行性72% 相似待验证三元量化意味着每个权重只有三种取值状态,通常是-1、0、+166% 相似待验证在4-bit量化下,纯参数理论最小占用为:7B约3.26GiB,13B约6.05GiB,32B约14.90GiB,70B约32.60GiB59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/798065API
curl https://kongchang.com/api/v1/knowledge/claims/798065MCP
get_claim(id=798065)