待验证50% 置信事实精确时间
本地运行70B模型至少需要配备48GB显存的专业GPU，如NVIDIA A6000或双卡RTX 4090
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/8/21
首次发现
有效期至：2026/11/19
来源
相关事实
待验证运行UD-Q8_K_XL无损版本需要总显存超过200GB的硬件配置，如多块NVIDIA A100 80GB或H10077% 相似待验证GPT-OSS 120B需要大于80GB显存（如H100 GPU）才能运行75% 相似待验证单卡A100（80GB显存）可运行7B-13B级别模型，4卡A100（320GB显存）可运行70B级别模型74% 相似待验证Consumer-grade GPUs like the RTX 4090 max out at 24GB of VRAM, making them inadequate for 70B-class models.74% 相似待验证使用Ollama本地部署时，官方推荐Qwen 2.5视觉模型（32B参数），需要至少24GB显存的GPU（如RTX 4090）才能流畅运行74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/782712API
curl https://kongchang.com/api/v1/knowledge/claims/782712MCP
get_claim(id=782712)