Unverified50% confidenceFactExact time
BitNet b1.58采用三值量化,每个权重取-1、0或+1三个值,即log₂(3)≈1.58 bit
1
Sources
50%
Confidence
Long-term
Relevance
8/25/2026
First Seen
Sources
Related Entities
Related Claims
Unverified1-bit量化(如BitNet b1.58)将每个参数用-1、0、+1三值表示,目前主要停留在研究阶段80% similarUnverified4-bit量化只能表示16个离散值,1-bit只有2个,三元量化(-1/0/+1)只有3个可能值74% similarUnverified1-bit量化研究可追溯至微软研究院2024年发布的BitNet论文,提出用三值权重(-1, 0, 1)替代全精度浮点数,BitNet b1.58进一步证明1.58-bit在从头训练场景下的可行性72% similarUnverified三元量化意味着每个权重只有三种取值状态,通常是-1、0、+166% similarUnverified在4-bit量化下,纯参数理论最小占用为:7B约3.26GiB,13B约6.05GiB,32B约14.90GiB,70B约32.60GiB59% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/798065API
curl https://kongchang.com/api/v1/knowledge/claims/798065MCP
get_claim(id=798065)