待验证50% 置信基准精确时间
HMA-Serve使用Tenstorrent Blackhole p150b卡跑prefill、NVIDIA HBM GPU跑decode，在Qwen3 4B到32B上实现3.2倍goodput和4.8倍每美元goodput，且无质量损失
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/19
首次发现
有效期至：2027/1/17
来源
涉及实体
相关事实
已验证NVIDIA H100的HBM显存带宽约为3.35 TB/s，在自回归生成任务中利用率往往不足10%69% 相似待验证DeepSeek V3的decode单元采用144卡EP，通过大batch均摊权重load开销并腾出显存提升batch size63% 相似待验证最先进的HBM3e内存带宽约4.8TB/s，推理过程中GPU算力利用率往往只有30%-60%62% 相似待验证NVIDIA H100的HBM3显存带宽高达3.35TB/s，而Ryzen AI Halo受限于LPDDR5x带宽通常在100-300GB/s量级62% 相似待验证GPU HBM带宽通常在2-3 TB/s量级，H100为3.35 TB/s，而PCIe 5.0连接的Host DRAM有效带宽仅约64 GB/s，两者相差近50倍61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1070130API
curl https://kongchang.com/api/v1/knowledge/claims/1070130MCP
get_claim(id=1070130)