待验证50% 置信事实精确时间
9B级模型（如Meta LLaMA 3、Google Gemma 2）能够在消费级GPU（如单张RTX 4090）上完成本地推理
1
来源数
50%
置信度
长期有效
时效性
2026/7/23
首次发现
来源
相关事实
待验证配合Ollama、llama.cpp等推理框架，普通消费级GPU如RTX 4090可流畅运行70B参数以内的模型74% 相似待验证INT4/INT8量化版本模型可在消费级GPU如RTX 4090上运行70B以下参数规模的模型70% 相似已验证LoRA使得在消费级GPU（如RTX 4090）上微调十亿级参数模型成为可能69% 相似待验证谷歌发布了 Gemma 4 E2B for TPU，这是一款专为 Pixel 10 系列的 Tensor G5 芯片打造的开放模型66% 相似待验证开源模型可通过 Ollama、llama.cpp、LM Studio 等推理框架在消费级 GPU（如 NVIDIA RTX 4090，显存24GB）上运行64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/599600API
curl https://kongchang.com/api/v1/knowledge/claims/599600MCP
get_claim(id=599600)