Unverified50% confidenceFactExact time
三个状态的信息熵为log₂(3)≈1.58比特，因此三元量化也被称为1.58-bit量化
1
Sources
50%
Confidence
Long-term
Relevance
8/5/2026
First Seen
Sources
Related Claims
Unverified1.58-bit 指每个权重平均占用 log₂(3) ≈ 1.58 比特，因为三值权重（-1、0、+1）共有3种状态77% similarPartially Verified当使用以2为底的对数时熵的单位是比特(bits)，使用自然对数时单位是nats68% similarUnverified2024 年以来 1-bit 量化（如 BitNet 系列）进入学术视野，将权重压缩至 {-1, 0, +1} 三值，目前仍处于研究阶段66% similarUnverifiedBitNet探索的极端量化（如2-bit或1.58-bit三值量化）在某些场景下也能保持较好性能65% similarUnverifiedQ3量化意味着每个参数大约只用3比特存储61% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/692440API
curl https://kongchang.com/api/v1/knowledge/claims/692440MCP
get_claim(id=692440)