待验证50% 置信事实精确时间
Moondream 将 Parakeet 编码器中的每个权重强制压缩成 -1、0、+1 三个值之一(三值量化),每个权重约需1.58位存储
1
来源数
50%
置信度
长期有效
时效性
2026/10/6
首次发现
来源
涉及实体
相关事实
待验证该模型从三个维度压缩缓存:64个查询头共享一个latent、编码器中相邻两个token压缩成一个条目、40层中只有4层保留缓存其余36层不存储67% 相似待验证Bonsai采用三值量化,将每个权重压缩为-1、0或+1三个值,每128个权重共享一个缩放因子,每个权重约需1.7比特,比16位全精度小约9倍66% 相似待验证三元表示理论上每个参数只需约1.58比特,相比FP16可以带来近10倍的存储压缩64% 相似已验证4-bit量化将每个参数压缩至0.5字节,理论上将140GB压缩至约35-40GB62% 相似待验证对于 2.4 亿条域名,Succinct Trie 的内存占用可压缩到每个字符仅需 2–4 bit,整体可控制在 1–2 GB 以内62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/979388API
curl https://kongchang.com/api/v1/knowledge/claims/979388MCP
get_claim(id=979388)