待验证50% 置信事实精确时间
GGML 是 ggml/llama.cpp 生态的底层张量计算库，以 C/C++ 实现，跨平台，支持 CPU 与多种 GPU 加速（CUDA、Metal、Vulkan 等），是 Ollama 在多数平台上运行模型的默认路径。
1
来源数
50%
置信度
长期有效
时效性
2026/10/20
首次发现
来源
涉及实体
相关事实
待验证llama.cpp采用GGUF格式（前身为GGML）对模型权重进行量化压缩，以纯C/C++编写，支持AVX2、ARM NEON等SIMD指令集及CUDA、Metal、Vulkan、OpenCL等GPU后端77% 相似已验证GGUF是llama.cpp生态广泛使用的格式，支持2bit至8bit灵活量化粒度，对CPU推理友好77% 相似待验证GGML是Gerganov自研的张量运算库，专为CPU推理优化，采用纯C实现，可在ARM、x86等架构上运行75% 相似已验证GGUF专门为CPU和混合CPU/GPU推理场景优化，支持内存映射（mmap）加载，可通过部分offload到系统内存运行超出显存容量的模型74% 相似待验证ggml用纯C/C++实现、无需重型依赖、支持量化、能在CPU上高效运行，同时也可利用GPU加速73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1078187API
curl https://kongchang.com/api/v1/knowledge/claims/1078187MCP
get_claim(id=1078187)