待验证50% 置信事实精确时间

NVIDIA CUDA运行时初始化时创建的设备上下文通常占用150-300MB显存

1

来源数

50%

置信度

长期有效

时效性

2026/8/12

首次发现

来源

24GB显存跑本地LLM？实际可用显存没那么多

相关事实

待验证NVIDIA A100的显存带宽为2TB/s，加载280GB的FP32模型需要约140ms，仅权重加载就决定了每秒最多生成约7个token72% 相似待验证NVIDIA、AMD 和 Intel 的 GPU 顶点缓存容量普遍在 16 至 32 个顶点条目左右70% 相似待验证NVIDIA高端显卡的VRAM内存总线位宽可达5120-bit69% 相似待验证P106-100拥有1280个CUDA核心，基础频率1506MHz，配备6GB GDDR5显存，理论单精度浮点性能约3.8 TFLOPS67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/735607

API

curl https://kongchang.com/api/v1/knowledge/claims/735607

MCP

get_claim(id=735607)