Unverified50% confidenceFactExact time
冯·诺依曼瓶颈指处理器和存储之间的数据传输带宽限制
1
Sources
50%
Confidence
Long-term
Relevance
8/6/2026
First Seen
Sources
Related Claims
Unverified冯·诺依曼架构的核心特征是计算单元与存储单元分离，数据需在二者间搬运，造成能耗主要来源于数据传输而非计算本身75% similarUnverified主机卸载用带宽换显存空间，代价是数据传输延迟；激活重计算用算力换显存，二者可互补配合72% similarUnverified显存容量决定能加载的模型/数据规模，带宽决定计算吞吐；对于大模型推理，显存容量是硬门槛（放不下就跑不了），HBM带宽次之；对于访存密集型HPC，带宽比容量更关键68% similarVerified大模型推理的速度瓶颈是内存带宽而非算力不足，每生成一个token需要从内存加载数百GB的模型权重67% similarUnverified自回归文本生成属于内存带宽受限任务，内存带宽而非算力峰值是真正的性能瓶颈66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/694295API
curl https://kongchang.com/api/v1/knowledge/claims/694295MCP
get_claim(id=694295)