Unverified50% confidenceSolutionExact time
Prefill阶段计算密集依赖内存容量，Decode阶段串行自回归依赖内存带宽，解码可交给Groq LPU、Cerebras WSE等推理芯片处理
1
Sources
50%
Confidence
Long-term
Relevance
7/6/2026
First Seen
Sources
GLM-4系列开源逆袭：AI战争蔓延至内存争夺与太空算力
bilibili智灵Shaw7/3/2026
Related Claims
UnverifiedLLM推理的Prefill阶段为计算密集型且GPU利用率接近100%，Decode阶段为内存带宽密集型，瓶颈在于HBM显存带宽78% similarUnverified自回归推理的decode阶段是纯粹的内存带宽受限操作，将模型从FP16压缩到1-bit理论上可将token生成速度提升16倍74% similarUnverifiedLLM解码过程是内存带宽受限（memory bound）的，GPU在逐token生成时大部分时间处于等待数据搬运的状态70% similarUnverifieddecode阶段的生成速度近似等于内存带宽÷模型大小，例如在内存带宽273GB/s的M4 Pro上运行4GB的Q4量化7B模型理论最大生成速度约68 tokens/s70% similarUnverifiedCPU缓存以缓存行为最小传输单元，通常为64字节，MESI协议负责维护多核间缓存一致性69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/113551API
curl https://kongchang.com/api/v1/knowledge/claims/113551MCP
get_claim(id=113551)