概念统一内存架构 / Unified Memory Architecture
UMA
CPU和GPU共享同一块物理内存的架构设计,消除了数据拷贝开销,有利于AI推理等需要频繁搬运数据的负载
时间轴 (近 90 天)
10月1日
EP Buffer支持FP8数据类型及Cache Handle相关操作,并借助UMA在后台推进通信、释放AIV核
待验证50%
CPU和GPU共享同一块物理内存的架构设计,消除了数据拷贝开销,有利于AI推理等需要频繁搬运数据的负载
EP Buffer支持FP8数据类型及Cache Handle相关操作,并借助UMA在后台推进通信、释放AIV核