待验证50% 置信事实精确时间

现代NVIDIA GPU上L1缓存行通常为128字节，全局内存事务的最小粒度为32字节

1

来源数

50%

置信度

长期有效

时效性

2026/8/23

首次发现

来源

GPU内存读取原理：延迟隐藏与带宽优化深度解析

涉及实体

NVIDIAcompany GPUconcept

相关事实

待验证自回归解码在批大小为1时算术强度约等于隐藏层维度（通常4096至16384），而现代GPU峰值算术强度往往超过200，导致解码处于内存带宽受限状态73% 相似待验证LLaMA-2 70B单条32K上下文长度序列在FP16下KV缓存可达约80GB72% 相似已验证以70B参数模型、FP16精度、32层注意力头为例，单条200K长度请求的KV Cache约需80-120GB显存，远超单张A100 GPU的80GB显存上限71% 相似待验证GPU 顶点缓存（Post-Transform Vertex Cache）容量通常仅有 16–32 个顶点槽位70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/791069

API

curl https://kongchang.com/api/v1/knowledge/claims/791069

MCP

get_claim(id=791069)