[控场AI]
产品Apple M3 Ultra

M3 Ultra

苹果公司推出的高性能芯片,为M3系列顶级型号,搭载于Mac Studio等专业设备,GPU核心不含专用神经加速器

核心事实

时间轴 (近 90 天)

11月15日

有用户在M3 Ultra 512GB硬件上运行GLM 5.3 Flash的6bit量化版(270GB),配合Hermes和VS Code日常使用体验很好,极少使用付费模型。

待验证50%
10月28日

一位用户购买M3 Ultra花费了11,000美元。

待验证50%
10月18日

Mac Studio 配置为 M3 Ultra 芯片、96GB 统一内存,剩余 30 多 GB 可同时运行 Immich、Nextcloud 和一个 Kubernetes 集群。

待验证50%
10月16日

Mac 用户需注意:rapid-mlx 报告 M3 Ultra 在 1K 上下文下实测峰值 72.7 GB,同时称 96 GB Mac 尚未验证,且图像输入和 MTP 未启用;想在 Mac 上用视觉能力需走 llama.cpp 加 mmproj 文件。

待验证50%
10月14日

M3 Ultra 的80核 GPU 可以直接承载全部32层模型。

待验证50%
9月23日

DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度

待验证50%
9月23日

M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升

待验证50%
9月23日

M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一

待验证50%
9月23日

生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍

待验证50%
9月23日

在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS

待验证50%

还有 20 条时间轴事件

全部知识事实 (20)

已验证

M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍

85%
已验证

苹果官方在LM Studio测试中称M5 Ultra的GPU加入Neural Accelerators后,大模型Prompt处理速度最高可达M3 Ultra的4倍

65%
已验证

M5 Ultra整机AI峰值算力比M3 Ultra高出4倍以上

65%
待验证

Mac Studio M2 Ultra在满载推理时整机功耗通常在100-150W之间,而配备双卡RTX 4090的工作站整机功耗轻松突破800W

70%
部分验证

GPU重度负载下M3 Ultra功耗约100W,M5 Ultra飙到400W以上

65%
待验证

M5 Ultra相比M3 Ultra在Geekbench单核提升约33.5%,多核提升约32.5%

60%
待验证

在700亿参数模型的首token时间测试中,M3 Ultra耗时31.6秒,M5 Ultra仅7.7秒,达到约4.1倍,接近苹果宣称的4.3倍

60%
待验证

在AmorphousDiskMark测试中M5 Ultra顺序读取达14,888MB/s、写入接近20,000MB/s,M3 Ultra读取约6500MB/s、写入2700MB/s

60%
待验证

Mac Studio搭载M系列芯片,如M2 Max、M2 Ultra及后续更新版本

60%
待验证

配备统一内存架构的迷你PC能够运行700亿参数(70B)的大模型,而高端独立显卡因显存不足无法完整加载

60%
待验证

有用户在M3 Ultra 512GB硬件上运行GLM 5.3 Flash的6bit量化版(270GB),配合Hermes和VS Code日常使用体验很好,极少使用付费模型。

50%
待验证

一位用户购买M3 Ultra花费了11,000美元。

50%
待验证

Mac Studio 配置为 M3 Ultra 芯片、96GB 统一内存,剩余 30 多 GB 可同时运行 Immich、Nextcloud 和一个 Kubernetes 集群。

50%
待验证

Mac 用户需注意:rapid-mlx 报告 M3 Ultra 在 1K 上下文下实测峰值 72.7 GB,同时称 96 GB Mac 尚未验证,且图像输入和 MTP 未启用;想在 Mac 上用视觉能力需走 llama.cpp 加 mmproj 文件。

50%
待验证

M3 Ultra 的80核 GPU 可以直接承载全部32层模型。

50%
待验证

M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升

50%
待验证

DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度

50%
待验证

M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一

50%
待验证

生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍

50%
待验证

在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍

50%

来源文章