待验证50% 置信事实精确时间

LLM输出阶段(decode)受限于自回归的串行特性，GPU利用率低于输入阶段(prefill)的批量并行处理，导致输出Token单价通常最高

1

来源数

50%

置信度

长期有效

时效性

2026/9/7

首次发现

来源

Astra配额疑云：实际消耗或达Sol的4.5倍

涉及实体

相关事实

待验证LLM推理的Prefill阶段为计算密集型且GPU利用率接近100%，Decode阶段为内存带宽密集型，瓶颈在于HBM显存带宽76% 相似待验证LLM解码过程是内存带宽受限（memory bound）的，GPU在逐token生成时大部分时间处于等待数据搬运的状态73% 相似待验证自回归推理的decode阶段是纯粹的内存带宽受限操作，将模型从FP16压缩到1-bit理论上可将token生成速度提升16倍72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/871264

API

curl https://kongchang.com/api/v1/knowledge/claims/871264

MCP

get_claim(id=871264)