[KongchangAI]
ProductApple M3 Ultra

M3 Ultra

苹果公司推出的高性能芯片,为M3系列顶级型号,搭载于Mac Studio等专业设备,GPU核心不含专用神经加速器

Core Facts

Timeline (last 90 days)

Sep 23

DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度

Unverified50%
Sep 23

M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升

Unverified50%
Sep 23

M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一

Unverified50%
Sep 23

生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍

Unverified50%
Sep 23

在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS

Unverified50%
Sep 23

在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍

Unverified50%
Sep 23

M5 Ultra GPU的Solar Bay Extreme成绩相比M3 Ultra提升108.4%

Unverified50%
Sep 23

M5 Ultra相比M3 Ultra在Geekbench单核提升约33.5%,多核提升约32.5%

Unverified60%
Sep 23

在Cinebench R26多核测试中,M5 Ultra得17943分,M3 Ultra为10425分,达到约1.72倍,远超苹果宣称的1.3倍

Unverified50%
Sep 23

M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍

Partially Verified70%

14 more timeline events

All Facts (20)

Verified

M5 Ultra整机AI峰值算力比M3 Ultra高出4倍以上

65%
Partially Verified

M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍

70%
Partially Verified

GPU重度负载下M3 Ultra功耗约100W,M5 Ultra飙到400W以上

65%
Unverified

M5 Ultra相比M3 Ultra在Geekbench单核提升约33.5%,多核提升约32.5%

60%
Unverified

在700亿参数模型的首token时间测试中,M3 Ultra耗时31.6秒,M5 Ultra仅7.7秒,达到约4.1倍,接近苹果宣称的4.3倍

60%
Unverified

在AmorphousDiskMark测试中M5 Ultra顺序读取达14,888MB/s、写入接近20,000MB/s,M3 Ultra读取约6500MB/s、写入2700MB/s

60%
Unverified

Mac Studio搭载M系列芯片,如M2 Max、M2 Ultra及后续更新版本

60%
Unverified

DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度

50%
Unverified

M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升

50%
Unverified

M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一

50%
Unverified

生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍

50%
Unverified

在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍

50%
Unverified

在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS

50%
Unverified

M5 Ultra GPU的Solar Bay Extreme成绩相比M3 Ultra提升108.4%

50%
Unverified

M5 Ultra为36核(12超核+24性能核),而M3 Ultra为32核(24性能核+8能效核)

50%
Unverified

在Cinebench R26多核测试中,M5 Ultra得17943分,M3 Ultra为10425分,达到约1.72倍,远超苹果宣称的1.3倍

50%
Unverified

在80亿参数模型的文本生成测试中,M5 Ultra每秒188 tokens,M3 Ultra每秒129 tokens,仅为1.45倍

50%
Unverified

对于闲聊小模型或不需要处理大提示词的场景,M5 Ultra不足以支撑从M2/M3 Ultra升级的理由

50%
Unverified

同一套llama.cpp构建在M3 Ultra上启动显示has tensor = false,在M5 Ultra上显示has tensor = true,llama.cpp针对M5世代增加了专门的代码路径

50%
Unverified

M5 Ultra相比M3 Ultra每瓦token数只提升了约12%,风扇噪音更大,温度约43-44度

50%

Source Articles