M5 Ultra
苹果首颗采用四芯片融合架构的处理器,通过UltraFusion接口连接两颗M5 Max,最高支持512GB统一内存和1.2TB/s带宽,可在本地运行千亿参数大模型
核心事实
时间轴 (近 90 天)
MuseSpark Open完整版模型需要1TB内存,大致相当于两台顶配M5 Ultra Mac Studio,售价约4万美元。
Muse Spark Open可以在两台搭载M5 Ultra芯片的Mac Studio上运行,配合最新MLX框架。
M5 Ultra GPU 神经加速器将 Qwen 3.8 和 Mistral Medium 3.5 的 TTFT 最多提升了 4.6 倍。
四台 M5 Ultra 使用双 Thunderbolt 线缆组网,在 65536 tokens 下将 Muse Spark Open 的 TTFT 从约 50.5 秒压到 40.6 秒。
在两台 M5 Ultra 上,Muse Spark Open 在 65536 tokens 时张量并行不如流水线并行;加到四台机器后张量并行反超。
四台 M5 Ultra 张量并行时,Muse Spark Open 解码速度从两台流水线的 15.74 tokens/s 提升到 36.73 tokens/s,Qwen 3.8 从 19.44 提升到 50.89 tokens/s。
对于运行70B以下量化模型的用户,RTX 5090是更快的选择;对于需要运行超大模型、未量化模型或MoE架构的开发者,M5 Ultra几乎是唯一能在桌面级设备上完成任务的选项
M5 Ultra计算性能约为110 TFLOPS,RTX 5090可达419 TFLOPS,约为前者的四倍
一位Reddit用户在M5 Ultra 256GB 80核 Mac Studio上运行了GLM-5.3-Flash等多个模型的实测
若256GB配置下GPU已是瓶颈,将内存翻倍到512GB不会提升GPU算力,加载更大模型反而推理速度更慢
还有 40 条时间轴事件
全部知识事实 (20)
M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍
85%已验证M4 Max的内存带宽可达400GB/s以上
80%已验证新款Mac Studio采用统一内存设计,128G内存版本国行19999元起,512G版本起步价46999元
70%已验证在M5 Ultra的1.2TB/s带宽下,100GB量化模型理论速度约12 token/s,200GB约6 token/s,300GB约4 token/s
65%已验证若带宽达到2.4TB/s,100GB模型理论速度上限可达24 token/s,60GB模型40 token/s,35GB模型接近69 token/s
65%已验证苹果官方在LM Studio测试中称M5 Ultra的GPU加入Neural Accelerators后,大模型Prompt处理速度最高可达M3 Ultra的4倍
65%已验证M5 Ultra整机AI峰值算力比M3 Ultra高出4倍以上
65%已验证苹果M2 Ultra的UMA内存总线带宽已达800GB/s
65%已验证Mac Studio M5 Ultra版从5499美元起,最高512GB内存,内存带宽达到每秒1.2TB,512GB版本预计10月下旬到货
80%已验证苹果推出搭载M6芯片的新一代Mac mini
80%已验证Mac mini M6版从899美元起,最高32GB统一内存,2026年9月22日开售
75%已验证M5 Ultra很可能采用UltraFusion双芯片互联封装技术,将两颗M5 Max级别芯片组合为一个逻辑整体
65%待验证M5 Ultra内存容量是RTX Pro 6000的五倍多,但内存带宽只有其约三分之二
70%待验证700亿参数负载下5090约275瓦、M5 Ultra约300瓦,功耗相近但M5 Ultra快20倍以上
70%待验证Mac Studio M2 Ultra在满载推理时整机功耗通常在100-150W之间,而配备双卡RTX 4090的工作站整机功耗轻松突破800W
70%部分验证Muse Spark Open可以在两台搭载M5 Ultra芯片的Mac Studio上运行,配合最新MLX框架。
65%部分验证M5为每一个GPU核心内置了专用于矩阵乘法的神经加速器(Neural Accelerator)
65%部分验证GPU重度负载下M3 Ultra功耗约100W,M5 Ultra飙到400W以上
65%部分验证统一内存架构使CPU、GPU与NPU共享同一块内存池,避免数据在处理单元间反复搬运的开销
65%待验证该用户认为相对于256GB的大内存容量,M5 Ultra的GPU算力显得不足
60%