待验证50% 置信事实精确时间

27.18 MiB约等于2270万字节，若按8比特存储，相当于约2270万个参数，仅占8B模型的0.28%。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/16

首次发现

有效期至：2027/1/14

来源

Mamba2-8B压缩研究：27MB缓存与3.14GB模型

redditr/deeplearning2026/10/16

涉及实体

相关事实

已验证一个70B参数的FP16模型大约需要140GB显存，INT8量化后约需70GB，INT4量化后约需35-40GB75% 相似待验证2.4万亿参数模型在FP32下约需9.6TB显存，BF16约需4.8TB，INT8约需2.4TB，INT4约需1.2TB75% 相似待验证千问3.8的270亿参数模型经四位量化后约15.3GB，聊天几千字对话后实际占用会冲到17GB以上，因此16GB显存不够，需24GB才舒服74% 相似已验证一个原本需要60GB显存的30B参数模型，经过量化后能在16GB甚至8GB显存的消费级显卡上运行74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1048601

API

curl https://kongchang.com/api/v1/knowledge/claims/1048601

MCP

get_claim(id=1048601)