待验证60% 置信事实精确时间
本地运行70B模型至少需要配备48GB显存的专业GPU，如NVIDIA A6000或双卡RTX 4090
2
来源数
60%
置信度
中期 (~90 天)
时效性
2026/8/21
首次发现
有效期至：2026/11/19
来源
相关事实
待验证运行UD-Q8_K_XL无损版本需要总显存超过200GB的硬件配置，如多块NVIDIA A100 80GB或H10077% 相似待验证GPT-OSS 120B需要大于80GB显存（如H100 GPU）才能运行75% 相似待验证2×80GB GPU运行16-bit精度的70B模型时，权重加载后仅剩2.9 GB显存，仅能容纳约9,000个在途token，实际无法有效服务请求。75% 相似待验证使用Ollama本地部署时，官方推荐Qwen 2.5视觉模型（32B参数），需要至少24GB显存的GPU（如RTX 4090）才能流畅运行74% 相似待验证部署DeepSeek-R1 671B MoE模型需要至少数张高端GPU（如H100或A100），显存需求超过320GB74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/782712API
curl https://kongchang.com/api/v1/knowledge/claims/782712MCP
get_claim(id=782712)