ProductAMD AI Max Plus 395
AMD AI Max+ 395
AMD推出的高性能统一内存AI加速处理器,采用统一内存架构,具备大容量内存和较高内存带宽,适合大模型推理的Decode阶段
Timeline (last 90 days)
Sep 26
路径A中RTX 3060跑前段层、AMD AI Max+ 395跑后段层,在IQ3量化64K长输入下Prefill速度从136.69 token/s提升到319.1 token/s
Unverified50%
AMD推出的高性能统一内存AI加速处理器,采用统一内存架构,具备大容量内存和较高内存带宽,适合大模型推理的Decode阶段
路径A中RTX 3060跑前段层、AMD AI Max+ 395跑后段层,在IQ3量化64K长输入下Prefill速度从136.69 token/s提升到319.1 token/s