M3 Ultra
苹果公司推出的高性能芯片,为M3系列顶级型号,搭载于Mac Studio等专业设备,GPU核心不含专用神经加速器
核心事实
时间轴 (近 90 天)
一位用户购买M3 Ultra花费了11,000美元。
Mac Studio 配置为 M3 Ultra 芯片、96GB 统一内存,剩余 30 多 GB 可同时运行 Immich、Nextcloud 和一个 Kubernetes 集群。
Mac 用户需注意:rapid-mlx 报告 M3 Ultra 在 1K 上下文下实测峰值 72.7 GB,同时称 96 GB Mac 尚未验证,且图像输入和 MTP 未启用;想在 Mac 上用视觉能力需走 llama.cpp 加 mmproj 文件。
M3 Ultra 的80核 GPU 可以直接承载全部32层模型。
M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升
M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一
DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度
在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS
在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍
生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍
还有 19 条时间轴事件
全部知识事实 (20)
M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍
85%已验证M5 Ultra整机AI峰值算力比M3 Ultra高出4倍以上
65%部分验证GPU重度负载下M3 Ultra功耗约100W,M5 Ultra飙到400W以上
65%待验证M5 Ultra相比M3 Ultra在Geekbench单核提升约33.5%,多核提升约32.5%
60%待验证在700亿参数模型的首token时间测试中,M3 Ultra耗时31.6秒,M5 Ultra仅7.7秒,达到约4.1倍,接近苹果宣称的4.3倍
60%待验证在AmorphousDiskMark测试中M5 Ultra顺序读取达14,888MB/s、写入接近20,000MB/s,M3 Ultra读取约6500MB/s、写入2700MB/s
60%待验证Mac Studio搭载M系列芯片,如M2 Max、M2 Ultra及后续更新版本
60%待验证配备统一内存架构的迷你PC能够运行700亿参数(70B)的大模型,而高端独立显卡因显存不足无法完整加载
60%待验证一位用户购买M3 Ultra花费了11,000美元。
50%待验证Mac Studio 配置为 M3 Ultra 芯片、96GB 统一内存,剩余 30 多 GB 可同时运行 Immich、Nextcloud 和一个 Kubernetes 集群。
50%待验证Mac 用户需注意:rapid-mlx 报告 M3 Ultra 在 1K 上下文下实测峰值 72.7 GB,同时称 96 GB Mac 尚未验证,且图像输入和 MTP 未启用;想在 Mac 上用视觉能力需走 llama.cpp 加 mmproj 文件。
50%待验证M3 Ultra 的80核 GPU 可以直接承载全部32层模型。
50%待验证M3 Ultra从约16K开始衰减,到500K时增量速度降到峰值的三分之一到四分之一,而Spark在同样位置能保持约二分之一
50%待验证DGX Spark满载两三分钟后CPU会冲到90度以上,而同样负载下M3 Ultra只到60度、长时间满载约72度
50%待验证M5上观测到的投机解码提升仅在4%到40%之间,M3 Ultra几乎没有提升
50%待验证在FP16精度4K×4K×4K转置矩阵乘法任务中,启用Neural Accelerator的M5 Ultra算力突破107 TFLOPS,是自身非加速状态的3.51倍,达到M3 Ultra的4.79倍
50%待验证在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS
50%待验证生成5秒768P视频并开启Fast Cache时,M3 Ultra耗时37分14秒,M5 Ultra耗时9分24秒,快了近4倍
50%待验证M5 Ultra GPU的Solar Bay Extreme成绩相比M3 Ultra提升108.4%
50%待验证在Cinebench R26多核测试中,M5 Ultra得17943分,M3 Ultra为10425分,达到约1.72倍,远超苹果宣称的1.3倍
50%