概念fractal layout
分形布局
华为昇腾AI Core特有的多级嵌套数据排列方式,将矩阵分块后对每层分块再进行子分块,按Cube Core访问模式递归嵌套,以最大化L0缓存带宽利用率,但要求外部数据须经格式转换才能使用
时间轴 (近 90 天)
10月3日
DeepGEMM-Ascend 内核把矩阵小块从全局内存移入 L1 缓存再移入 L0 缓存进行运算,并在加载到 L1 缓存时使用分形布局(fractal layout)索引
待验证50%
10月3日
分形布局是昇腾 AI Core 特有的多级嵌套数据排列方式,与 NVIDIA GPU 常见的行优先或列优先线性布局不同
待验证50%