待验证50% 置信事实精确时间
传统AI芯片（GPU或TPU）将模型权重存储在内存中，计算单元按需读取执行，大量时间和能耗消耗在权重搬运上
1
来源数
50%
置信度
长期有效
时效性
2026/8/7
首次发现
来源
相关事实
待验证GPU存储层次从快到慢为：寄存器、L1缓存/共享内存、L2缓存、全局显存72% 相似待验证LLM解码过程是内存带宽受限（memory bound）的，GPU在逐token生成时大部分时间处于等待数据搬运的状态72% 相似待验证pin_memory 启用后数据被加载到固定内存中，可使 CPU 到 GPU 的数据传输速度提升约 2 倍70% 相似待验证GPU的SM能同时驻留的Warp数量决定了GPU隐藏内存访问延迟的能力，制约Occupancy的核心资源是寄存器文件与共享内存69% 相似待验证GPU上下文切换需保存完整GPU状态（包括寄存器文件、共享内存和L1缓存），数据量可达数百MB，而CPU上下文切换仅需保存几KB69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/705508API
curl https://kongchang.com/api/v1/knowledge/claims/705508MCP
get_claim(id=705508)