待验证50% 置信事实精确时间
Ollama的OLLAMA_MAX_LOADED_MODELS默认值是GPU数量的3倍（CPU推理时为3）
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/7
首次发现
有效期至：2026/12/6
来源
涉及实体
相关事实
待验证Ollama CPU 推理模式下生成速度会从 GPU 的每秒 30-80 个 Token 降至每秒 2-8 个 Token74% 相似待验证NPU 在执行 INT8/INT4 量化模型推理时，每瓦性能可达 GPU 的 3-5 倍72% 相似待验证该处理器集成40个RDNA 3.5计算单元的GPU核心和算力达50 TOPS的XDNA 2专用NPU67% 相似待验证Ollama 支持量化后的轻量模型如 Phi-3、Gemma 2B，可部署在消费级 GPU 甚至纯 CPU 的边缘服务器上67% 相似待验证Ryzen AI Max+ 395集成多达40个RDNA 3.5计算单元的GPU核心和算力达50 TOPS的XDNA 2专用NPU67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/870163API
curl https://kongchang.com/api/v1/knowledge/claims/870163MCP
get_claim(id=870163)