M3 Ultra
苹果公司推出的高性能芯片,为M3系列顶级型号,搭载于Mac Studio等专业设备,GPU核心不含专用神经加速器
Core Facts
Timeline (last 90 days)
DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度
M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升
M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一
生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍
在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS
在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍
M5 Ultra GPU的Solar Bay Extreme成绩相比M3 Ultra提升108.4%
M5 Ultra相比M3 Ultra在Geekbench单核提升约33.5%,多核提升约32.5%
在Cinebench R26多核测试中,M5 Ultra得17943分,M3 Ultra为10425分,达到约1.72倍,远超苹果宣称的1.3倍
M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍
14 more timeline events
All Facts (20)
M5 Ultra整机AI峰值算力比M3 Ultra高出4倍以上
65%Partially VerifiedM5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍
70%Partially VerifiedGPU重度负载下M3 Ultra功耗约100W,M5 Ultra飙到400W以上
65%UnverifiedM5 Ultra相比M3 Ultra在Geekbench单核提升约33.5%,多核提升约32.5%
60%Unverified在700亿参数模型的首token时间测试中,M3 Ultra耗时31.6秒,M5 Ultra仅7.7秒,达到约4.1倍,接近苹果宣称的4.3倍
60%Unverified在AmorphousDiskMark测试中M5 Ultra顺序读取达14,888MB/s、写入接近20,000MB/s,M3 Ultra读取约6500MB/s、写入2700MB/s
60%UnverifiedMac Studio搭载M系列芯片,如M2 Max、M2 Ultra及后续更新版本
60%UnverifiedDGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度
50%UnverifiedM5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升
50%UnverifiedM3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一
50%Unverified生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍
50%Unverified在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍
50%Unverified在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS
50%UnverifiedM5 Ultra GPU的Solar Bay Extreme成绩相比M3 Ultra提升108.4%
50%UnverifiedM5 Ultra为36核(12超核+24性能核),而M3 Ultra为32核(24性能核+8能效核)
50%Unverified在Cinebench R26多核测试中,M5 Ultra得17943分,M3 Ultra为10425分,达到约1.72倍,远超苹果宣称的1.3倍
50%Unverified在80亿参数模型的文本生成测试中,M5 Ultra每秒188 tokens,M3 Ultra每秒129 tokens,仅为1.45倍
50%Unverified对于闲聊小模型或不需要处理大提示词的场景,M5 Ultra不足以支撑从M2/M3 Ultra升级的理由
50%Unverified同一套llama.cpp构建在M3 Ultra上启动显示has tensor = false,在M5 Ultra上显示has tensor = true,llama.cpp针对M5世代增加了专门的代码路径
50%UnverifiedM5 Ultra相比M3 Ultra每瓦token数只提升了约12%,风扇噪音更大,温度约43-44度
50%