已验证75% 置信事实精确时间
LLM解码过程是内存带宽受限（memory bound）的，GPU在逐token生成时大部分时间处于等待数据搬运的状态
3
来源数
75%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证内存带宽而非算力（FLOPS）是决定本地 LLM 推理速度的核心瓶颈，因为生成每个 token 需将几乎全部模型权重从内存读入计算单元76% 相似待验证纹理资源即使经过压缩，在运行时仍需被解码到内存中供GPU使用，解码会占用主线程时间并推迟首次渲染75% 相似待验证LLM推理的Prefill阶段为计算密集型且GPU利用率接近100%，Decode阶段为内存带宽密集型，瓶颈在于HBM显存带宽74% 相似待验证传统GPU如NVIDIA A100/H100在推理阶段面临内存带宽瓶颈，模型权重需要在每次生成Token时从显存反复读取73% 相似待验证LLM输出阶段(decode)受限于自回归的串行特性，GPU利用率低于输入阶段(prefill)的批量并行处理，导致输出Token单价通常最高73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/527127API
curl https://kongchang.com/api/v1/knowledge/claims/527127MCP
get_claim(id=527127)