待验证50% 置信事实精确时间
冯·诺依曼瓶颈指处理器和存储之间的数据传输带宽限制
1
来源数
50%
置信度
长期有效
时效性
2026/8/6
首次发现
来源
相关事实
待验证冯·诺依曼架构的核心特征是计算单元与存储单元分离，数据需在二者间搬运，造成能耗主要来源于数据传输而非计算本身75% 相似待验证主机卸载用带宽换显存空间，代价是数据传输延迟；激活重计算用算力换显存，二者可互补配合72% 相似待验证显存容量决定能加载的模型/数据规模，带宽决定计算吞吐；对于大模型推理，显存容量是硬门槛（放不下就跑不了），HBM带宽次之；对于访存密集型HPC，带宽比容量更关键68% 相似已验证大模型推理的速度瓶颈是内存带宽而非算力不足，每生成一个token需要从内存加载数百GB的模型权重67% 相似待验证自回归文本生成属于内存带宽受限任务，内存带宽而非算力峰值是真正的性能瓶颈66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/694295API
curl https://kongchang.com/api/v1/knowledge/claims/694295MCP
get_claim(id=694295)