[控场AI]
概念fractal layout

分形布局

华为昇腾AI Core特有的多级嵌套数据排列方式,将矩阵分块后对每层分块再进行子分块,按Cube Core访问模式递归嵌套,以最大化L0缓存带宽利用率,但要求外部数据须经格式转换才能使用

时间轴 (近 90 天)

10月3日

DeepGEMM-Ascend 内核把矩阵小块从全局内存移入 L1 缓存再移入 L0 缓存进行运算,并在加载到 L1 缓存时使用分形布局(fractal layout)索引

待验证50%
10月3日

分形布局是昇腾 AI Core 特有的多级嵌套数据排列方式,与 NVIDIA GPU 常见的行优先或列优先线性布局不同

待验证50%

全部知识事实 (2)

来源文章