待验证50% 置信事实精确时间

32GB显存能直接跑FP16、FP8原版模型，无需使用GGUF量化版

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AIO服务器搭建指南：双B70显卡打造本地AI管家

涉及实体

相关事实

待验证混元3开源了BF16版本，并提供FP8量化版本，FP8版本约300GB77% 相似已验证35B模型在FP16精度下需要约70GB显存，远超RTX 5090的32GB容量，因此单卡部署需量化74% 相似待验证GGUF格式支持将FP32或FP16浮点权重压缩至2位到8位整数74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/902438

API

curl https://kongchang.com/api/v1/knowledge/claims/902438

MCP

get_claim(id=902438)