待验证50% 置信解决方案精确时间
Prefill阶段计算密集依赖内存容量，Decode阶段串行自回归依赖内存带宽，解码可交给Groq LPU、Cerebras WSE等推理芯片处理
1
来源数
50%
置信度
长期有效
时效性
2026/7/6
首次发现
来源
GLM-4系列开源逆袭：AI战争蔓延至内存争夺与太空算力
bilibili智灵Shaw2026/7/3
相关事实
待验证LLM推理的Prefill阶段为计算密集型且GPU利用率接近100%，Decode阶段为内存带宽密集型，瓶颈在于HBM显存带宽78% 相似待验证自回归推理的decode阶段是纯粹的内存带宽受限操作，将模型从FP16压缩到1-bit理论上可将token生成速度提升16倍74% 相似待验证LLM解码过程是内存带宽受限（memory bound）的，GPU在逐token生成时大部分时间处于等待数据搬运的状态70% 相似待验证decode阶段的生成速度近似等于内存带宽÷模型大小，例如在内存带宽273GB/s的M4 Pro上运行4GB的Q4量化7B模型理论最大生成速度约68 tokens/s70% 相似待验证CPU缓存以缓存行为最小传输单元，通常为64字节，MESI协议负责维护多核间缓存一致性69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/113551API
curl https://kongchang.com/api/v1/knowledge/claims/113551MCP
get_claim(id=113551)