待验证50% 置信事实精确时间
llama.cpp 是一个 MIT 许可的 C/C++ 参考运行时，以 GGUF 格式为核心，支持 Metal、CUDA、ROCm 和 Vulkan
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
已验证llama.cpp是一个纯C/C++实现的推理框架，支持CPU推理和极低比特量化（如4-bit、2-bit），可在笔记本电脑甚至树莓派上运行LLM71% 相似已验证llama.cpp支持Metal、CUDA、Vulkan和SYCL等GPU加速后端70% 相似已验证llama.cpp是一个高度优化的C++推理引擎，支持Apple Silicon的Metal加速、NVIDIA的CUDA加速以及AMD的ROCm加速70% 相似已验证llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎，支持在纯CPU环境下运行大模型67% 相似待验证llama.cpp 于 2023 年初以仅用 CPU 运行 LLaMA 模型，随后支持 Metal、CUDA、ROCm 等硬件加速后端66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/898228API
curl https://kongchang.com/api/v1/knowledge/claims/898228MCP
get_claim(id=898228)