待验证50% 置信事实精确时间
纹理资源即使经过压缩，在运行时仍需被解码到内存中供GPU使用，解码会占用主线程时间并推迟首次渲染
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证LLM解码过程是内存带宽受限（memory bound）的，GPU在逐token生成时大部分时间处于等待数据搬运的状态75% 相似待验证GPU推理优化技术如投机解码（speculative decoding）、KV缓存复用对于将端到端延迟压缩到200毫秒以内至关重要75% 相似待验证Decode阶段属于内存带宽密集型任务,GPU利用率通常只有20-40%69% 相似待验证预填充阶段属于计算密集型操作主要受 GPU 算力限制，解码阶段属于内存带宽密集型操作主要受显存带宽限制69% 相似待验证传统GPU如NVIDIA A100/H100在推理阶段面临内存带宽瓶颈，模型权重需要在每次生成Token时从显存反复读取68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/964637API
curl https://kongchang.com/api/v1/knowledge/claims/964637MCP
get_claim(id=964637)