待验证50% 置信事实精确时间
GPU全局内存的访问延迟可达数百个时钟周期，而片上共享内存的延迟仅有几十个周期
1
来源数
50%
置信度
长期有效
时效性
2026/9/16
首次发现
来源
涉及实体
相关事实
待验证GPU多级内存层级从高到低依次为：寄存器文件（延迟约1周期）、共享内存/L1缓存（约32-228KB，延迟约20-40周期）、L2缓存（H100约50MB，延迟约200周期）、HBM全局内存（延迟约500-800周期）77% 相似待验证GPU的SM能同时驻留的Warp数量决定了GPU隐藏内存访问延迟的能力，制约Occupancy的核心资源是寄存器文件与共享内存74% 相似待验证GPU上下文切换需保存完整GPU状态（包括寄存器文件、共享内存和L1缓存），数据量可达数百MB，而CPU上下文切换仅需保存几KB74% 相似待验证超大的prompt在prefill阶段可能会完全占用GPU数分钟，导致多用户满窗口任务时队列拥堵71% 相似待验证GPU方案通过批处理技术将多个用户请求合并计算，可大幅提升总体吞吐量，是延迟与吞吐量的权衡71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/927045API
curl https://kongchang.com/api/v1/knowledge/claims/927045MCP
get_claim(id=927045)