已验证75% 置信事实精确时间
单张A100 GPU的显存容量上限为80GB
3
来源数
75%
置信度
长期有效
时效性
2026/7/19
首次发现
来源
相关事实
待验证GPT-OSS 120B需要大于80GB显存（如H100 GPU）才能运行77% 相似待验证2×80GB GPU运行16-bit精度的70B模型时，权重加载后仅剩2.9 GB显存，仅能容纳约9,000个在途token，实际无法有效服务请求。76% 相似已验证以70B参数模型、FP16精度、32层注意力头为例，单条200K长度请求的KV Cache约需80-120GB显存，远超单张A100 GPU的80GB显存上限76% 相似已验证NVIDIA A100的HBM2e容量为80GB，H100为80GB HBM3，H200为141GB76% 相似待验证NVIDIA提供时间切片、MPS和MIG三种GPU共享方案，A100拥有80GB显存74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/560259API
curl https://kongchang.com/api/v1/knowledge/claims/560259MCP
get_claim(id=560259)