待验证50% 置信事实精确时间
llama.cpp 是由 Georgi Gerganov 开发的 C++ 推理引擎,通过量化技术将模型权重从32位浮点数压缩为4位或8位整数
1
来源数
50%
置信度
长期有效
时效性
2026/7/20
首次发现
来源
相关事实
待验证llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎,支持Q4_0、Q4_K_M、Q5_K_M等多种量化格式79% 相似已验证llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎,支持在纯CPU环境下运行大模型78% 相似待验证Ollama 底层基于 llama.cpp 的量化推理引擎,通过 4-bit/8-bit 量化技术降低显存占用68% 相似待验证llama.cpp 由 Georgi Gerganov 开发,实现了纯 CPU 推理;MLC LLM 实现了在 iPhone 上运行 7B 模型的能力68% 相似已验证llama.cpp是一个纯C/C++实现的推理框架,支持CPU推理和极低比特量化(如4-bit、2-bit),可在笔记本电脑甚至树莓派上运行LLM66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/569075API
curl https://kongchang.com/api/v1/knowledge/claims/569075MCP
get_claim(id=569075)