待验证50% 置信事实精确时间
单张H100拥有80GB显存容量
1
来源数
50%
置信度
长期有效
时效性
2026/8/31
首次发现
来源
涉及实体
相关事实
待验证支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存，超过单张H100的80GB显存容量75% 相似待验证A100的L2缓存为40MB，H100的L2缓存为50MB71% 相似待验证A100 40GB与80GB版本主要差异在显存，80GB可支持更大batch和更长上下文训练，价格通常高30%-50%，跑百亿参数以上模型才需要80GB版71% 相似待验证100万Token在FP16精度下仅KV Cache一项即可消耗数百GB显存，远超单张A100/H100的80GB容量上限68% 相似待验证A100/H100等数据中心GPU采用HBM高带宽内存技术，通过3D堆叠实现80GB乃至更大显存容量67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/828090API
curl https://kongchang.com/api/v1/knowledge/claims/828090MCP
get_claim(id=828090)