概念memory wall
内存墙
当芯片算力增长速度快于内存带宽增长速度时，内存访问成为系统整体性能瓶颈的现象
时间轴 (近 90 天)
10月16日
内存墙指芯片算力增长快于内存带宽增长时，实际性能被内存访问速度而非计算能力卡住的现象。
待验证50%
9月16日
内存带宽是大模型推理延迟的主要瓶颈之一，计算单元往往处于等待数据加载状态，这一现象称为「内存墙」
待验证50%
9月12日
计算能力在过去十年飞速跃升，但内存带宽和存储I/O的增速明显滞后，形成了'内存墙'（Memory Wall），成为制约AI系统整体性能的关键瓶颈
待验证50%
9月7日
对于CNN推理,如果中间结果频繁写回内存再读取,会导致大量缓存未命中,性能可能降低10倍以上
待验证50%