待验证50% 置信事实精确时间
27B/30B级别的模型可以在消费级或工作站级GPU上本地部署，数据无需上传云端
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/11
首次发现
有效期至：2026/12/10
来源
涉及实体
相关事实
待验证30B参数规模足够大能够展现出接近GPT-3.5的能力水平,但又足够小可以在高端消费级显卡(如NVIDIA RTX 4090)或中等规模服务器上运行71% 相似待验证27B参数模型可在配备24GB显存的消费级显卡（如NVIDIA RTX 4090）上以量化形式运行，无需数据中心级硬件69% 相似待验证主流GPU推理方案（如基于NVIDIA H100的部署）在27B规模模型上通常只能达到每秒数十到一两百token的水平68% 相似待验证使用Ollama本地部署时，官方推荐Qwen 2.5视觉模型（32B参数），需要至少24GB显存的GPU（如RTX 4090）才能流畅运行67% 相似待验证本地运行70B模型至少需要配备48GB显存的专业GPU，如NVIDIA A6000或双卡RTX 409066% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/899701API
curl https://kongchang.com/api/v1/knowledge/claims/899701MCP
get_claim(id=899701)