待验证60% 置信事实精确时间
llama.cpp 于 2023 年初以仅用 CPU 运行 LLaMA 模型，随后支持 Metal、CUDA、ROCm 等硬件加速后端
2
来源数
60%
置信度
长期有效
时效性
2026/7/6
首次发现
来源
Ollama：175K Star本地大模型一键运行工具
bilibili比比蜡卜2026/7/1
相关事实
已验证llama.cpp支持Metal、CUDA、Vulkan和SYCL等GPU加速后端76% 相似待验证截至2025年llama.cpp已支持LLaMA、Qwen、Mistral、Gemma、Phi等数十种模型架构，并支持CPU、NVIDIA CUDA、Apple Metal及AMD ROCm/HIP后端75% 相似已验证llama.cpp支持NVIDIA GPU通过CUDA、AMD GPU通过ROCm、Apple Silicon通过Metal GPU加速，也支持纯CPU推理72% 相似待验证llama.cpp 已演化为覆盖 CPU、CUDA、Metal、Vulkan 等多后端的通用本地推理框架72% 相似已验证llama.cpp的核心贡献在于实现了高效的CPU推理内核，充分利用AVX2/AVX-512等SIMD指令集，使纯CPU环境也能运行7B至13B量级的模型71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/113373API
curl https://kongchang.com/api/v1/knowledge/claims/113373MCP
get_claim(id=113373)