待验证60% 置信事实精确时间

30B模型全精度需要50多GB显存

2

来源数

60%

置信度

长期有效

时效性

2026/8/16

首次发现

来源

实测Meta开源Muse Glimmer：偏科的Agent专用模型

bilibili碳基生物退役指南2026/8/11

相关事实

待验证大型模型（如26B、31B参数）在BF16精度下需超过50GB显存，难以在普通硬件上运行。78% 相似已验证一个原本需要60GB显存的30B参数模型，经过量化后能在16GB甚至8GB显存的消费级显卡上运行72% 相似已验证35B模型在FP16精度下需要约70GB显存，远超RTX 5090的32GB容量，因此单卡部署需量化71% 相似待验证35B模型在4090级显卡上可达每秒45到60个token68% 相似已验证70B模型在INT4精度下可压缩至约35GB67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/755341

API

curl https://kongchang.com/api/v1/knowledge/claims/755341

MCP

get_claim(id=755341)