待验证50% 置信事实精确时间
A100在4K token prefill期间浪费超过97%的HBM带宽;HBM占A100制造成本的18%,在B200上高达45%
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
待验证WSE-3的片上SRAM容量达到44GB,SRAM访问延迟约1ns,比HBM约100ns低10-50倍69% 相似待验证A100的L2缓存为40MB,H100的L2缓存为50MB67% 相似待验证100万Token在FP16精度下仅KV Cache一项即可消耗数百GB显存,远超单张A100/H100的80GB容量上限66% 相似待验证HBM3E最新一代单颗堆叠可包含8至12层DRAM die,提供超过1TB/s的带宽,是传统DDR5内存(50-60GB/s)带宽的20倍以上64% 相似待验证在上述假设下,8192 Token的Prompt在100GbE链路下传输耗时约为预填充耗时的30%,200Gb下约15%,400Gb下约7%。64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1070131API
curl https://kongchang.com/api/v1/knowledge/claims/1070131MCP
get_claim(id=1070131)