M5
苹果推出的桌面处理器芯片,首款采用2nm制程工艺,配备12核CPU、12核GPU和神经网络引擎,率先搭载于Mac mini
时间轴 (近 90 天)
神经加速器(Neural Accelerator)是Apple在M5系列芯片中首次引入的专用硬件单元,专为加速神经网络推理任务设计,独立于CPU和GPU运作,并在M6中延续并集成进新一代GPU
M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升
M5的int8算力是BF16的两倍,GitHub上已有项目用M5的int8核心运算报告了1.6倍提升
苹果官方在LM Studio测试中称M5 Ultra的GPU加入Neural Accelerators后,大模型Prompt处理速度最高可达M3 Ultra的4倍
M6的CPU为12核(4个性能核+6个能效核),比M5多2个核心,多核性能比M5快1.2倍
MicroGPT 在苹果M5芯片上跑出了每秒千万级token(10M tps)的吞吐量
M4 Max的内存带宽可达400GB/s以上
全部知识事实 (7)
M6的CPU为12核(4个性能核+6个能效核),比M5多2个核心,多核性能比M5快1.2倍
60%待验证神经加速器(Neural Accelerator)是Apple在M5系列芯片中首次引入的专用硬件单元,专为加速神经网络推理任务设计,独立于CPU和GPU运作,并在M6中延续并集成进新一代GPU
50%待验证M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升
50%待验证M5的int8算力是BF16的两倍,GitHub上已有项目用M5的int8核心运算报告了1.6倍提升
50%待验证苹果官方在LM Studio测试中称M5 Ultra的GPU加入Neural Accelerators后,大模型Prompt处理速度最高可达M3 Ultra的4倍
50%待验证MicroGPT 在苹果M5芯片上跑出了每秒千万级token(10M tps)的吞吐量
50%待验证M4 Max的内存带宽可达400GB/s以上
50%