待验证50% 置信事实精确时间

若HBM带宽不足，GPU算力利用率（MFU）可能跌至10%以下

1

来源数

50%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

高带宽闪存（HBF）：破解AI大模型存储瓶颈的新路径

相关事实

待验证高端GPU（NVIDIA H100/H200）在供应端存在显著瓶颈，成本下降速度远比互联网时代的带宽或存储缓慢70% 相似已验证A100 GPU的HBM带宽约2TB/s，而片上SRAM带宽可达19TB/s，相差近10倍65% 相似待验证NVIDIA H100的HBM显存带宽约为3.35 TB/s，在自回归生成任务中利用率往往不足10%64% 相似已验证分层加载导致推理速度受限，其根本原因是 PCIe 总线带宽（PCIe 4.0 理论带宽约 32GB/s）远低于 GPU 内部显存带宽63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/559603

API

curl https://kongchang.com/api/v1/knowledge/claims/559603

MCP

get_claim(id=559603)