待验证50% 置信基准精确时间
在 Qwen 模型深度 512 的解码场景下,SonicBoom 的性能仅为 llama.cpp 的 0.98 倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/19
首次发现
有效期至:2026/11/2
来源
SonicBoom v0.0.3:编译器优先AI运行时如何击败llama.cpp
rss2026/10/19
涉及实体
相关事实
待验证在桌面级 RTX 3050 8GB 显卡上,使用相同的 GGUF 模型和相同会话,SonicBoom v0.0.3 在解码阶段取得了优于 llama.cpp(-ngl 99)的表现。69% 相似待验证Qwen2 0.5B模型(5亿参数)运行仅需约352MB显存68% 相似待验证在Qwen 3.8 Flash Next模型上,解码性能翻倍达到52 tok/s68% 相似待验证Qwen 27B的Q4_K_M/GGUF版本在同一台机器上解码速度约为10.7 tok/s,约为MLX版本的1/3.868% 相似已验证Qwen3 27B在LiveCodeBench V6上取得90.3分,略超Opus 4.6 Max的88.8分66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1067204API
curl https://kongchang.com/api/v1/knowledge/claims/1067204MCP
get_claim(id=1067204)