待验证50% 置信发布精确时间
AntAngelMed 官方提供 FP8 版本，社区有 mradermacher 制作的 GGUF 量化版本可供 llama.cpp 使用。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证Ollama v0.40.4 将 llama.cpp 升级至 b11521 版本，由 jmorganca 提交，主要面向决策模型和 EmbeddingGemma 2 的支持。65% 相似待验证llama.cpp推理框架并不原生支持FP8格式，Q8_0不等于FP861% 相似待验证PyTorch 2.0开始将ROCm后端纳入官方一级支持，vLLM在2024年完成对AMD GPU的适配57% 相似待验证llama.cpp 支持从 Q2 到 Q8 的多种量化格式56% 相似待验证随着 llama.cpp、Ollama 等本地推理框架成熟及量化技术（如 GGUF、AWQ）进步，在消费级硬件上运行 7B-13B 参数规模的模型已成为可能56% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1032162API
curl https://kongchang.com/api/v1/knowledge/claims/1032162MCP
get_claim(id=1032162)