待验证50% 置信基准精确时间
在桌面级 RTX 3050 8GB 显卡上，使用相同的 GGUF 模型和相同会话，SonicBoom v0.0.3 在解码阶段取得了优于 llama.cpp（-ngl 99）的表现。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/19
首次发现
有效期至：2026/11/2
来源
SonicBoom v0.0.3：编译器优先AI运行时如何击败llama.cpp
rss2026/10/19
涉及实体
相关事实
待验证在 Qwen 模型深度 512 的解码场景下，SonicBoom 的性能仅为 llama.cpp 的 0.98 倍。69% 相似待验证d1-omni-600M 包含 381M 共享主干加决策头、94M SigLIP2 视觉编码器（来自 LFM2.5-VL-450M）和 112M 17 层 FastConformer 音频编码器。68% 相似待验证实验环境围绕一张 NVIDIA RTX 3090（24GB显存，功耗限制390W）展开，卡上运行 Whisper ASR 转录服务和 nomic-embed-text（Ollama）两个共享服务68% 相似待验证B站UP主使用llama.cpp通过4张RTX 3090加载了GLM 5.3 Flash的1-bit量化版本，生成速度达33.5 tok/s。67% 相似待验证RTX 4090搭载的GDDR6X显存由美光（Micron）开发，采用PAM4信号编码，带宽超过1000 GB/s（1008 GB/s）67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1067199API
curl https://kongchang.com/api/v1/knowledge/claims/1067199MCP
get_claim(id=1067199)