[控场AI]
产品Apple M3 Ultra

M3 Ultra

苹果公司推出的高性能芯片,为M3系列顶级型号,搭载于Mac Studio等专业设备,GPU核心不含专用神经加速器

核心事实

时间轴 (近 90 天)

10月28日

一位用户购买M3 Ultra花费了11,000美元。

待验证50%
10月18日

Mac Studio 配置为 M3 Ultra 芯片、96GB 统一内存,剩余 30 多 GB 可同时运行 Immich、Nextcloud 和一个 Kubernetes 集群。

待验证50%
10月16日

Mac 用户需注意:rapid-mlx 报告 M3 Ultra 在 1K 上下文下实测峰值 72.7 GB,同时称 96 GB Mac 尚未验证,且图像输入和 MTP 未启用;想在 Mac 上用视觉能力需走 llama.cpp 加 mmproj 文件。

待验证50%
10月14日

M3 Ultra 的80核 GPU 可以直接承载全部32层模型。

待验证50%
9月23日

M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升

待验证50%
9月23日

M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一

待验证50%
9月23日

DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度

待验证50%
9月23日

在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS

待验证50%
9月23日

在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍

待验证50%
9月23日

生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍

待验证50%

还有 19 条时间轴事件

全部知识事实 (20)

已验证

M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍

85%
已验证

M5 Ultra整机AI峰值算力比M3 Ultra高出4倍以上

65%
部分验证

GPU重度负载下M3 Ultra功耗约100W,M5 Ultra飙到400W以上

65%
待验证

M5 Ultra相比M3 Ultra在Geekbench单核提升约33.5%,多核提升约32.5%

60%
待验证

在700亿参数模型的首token时间测试中,M3 Ultra耗时31.6秒,M5 Ultra仅7.7秒,达到约4.1倍,接近苹果宣称的4.3倍

60%
待验证

在AmorphousDiskMark测试中M5 Ultra顺序读取达14,888MB/s、写入接近20,000MB/s,M3 Ultra读取约6500MB/s、写入2700MB/s

60%
待验证

Mac Studio搭载M系列芯片,如M2 Max、M2 Ultra及后续更新版本

60%
待验证

配备统一内存架构的迷你PC能够运行700亿参数(70B)的大模型,而高端独立显卡因显存不足无法完整加载

60%
待验证

一位用户购买M3 Ultra花费了11,000美元。

50%
待验证

Mac Studio 配置为 M3 Ultra 芯片、96GB 统一内存,剩余 30 多 GB 可同时运行 Immich、Nextcloud 和一个 Kubernetes 集群。

50%
待验证

Mac 用户需注意:rapid-mlx 报告 M3 Ultra 在 1K 上下文下实测峰值 72.7 GB,同时称 96 GB Mac 尚未验证,且图像输入和 MTP 未启用;想在 Mac 上用视觉能力需走 llama.cpp 加 mmproj 文件。

50%
待验证

M3 Ultra 的80核 GPU 可以直接承载全部32层模型。

50%
待验证

M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一

50%
待验证

DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度

50%
待验证

M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升

50%
待验证

在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍

50%
待验证

在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS

50%
待验证

生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍

50%
待验证

M5 Ultra GPU的Solar Bay Extreme成绩相比M3 Ultra提升108.4%

50%
待验证

在Cinebench R26多核测试中,M5 Ultra得17943分,M3 Ultra为10425分,达到约1.72倍,远超苹果宣称的1.3倍

50%

来源文章