M5 Max
苹果M5系列次旗舰芯片,采用双晶片设计,两颗M5 Max可通过UltraFusion技术融合为M5 Ultra
核心事实
时间轴 (近 90 天)
Hacks.gr的测试方使用基准程序将华硕ProArt与2026款16英寸MacBook Pro(M5 Max处理器)以及惠普ZBook Ultra G1a 14进行了对比,但未披露具体跑分数字。
LFM2.5-24B-A2B 在 Apple M5 Max 上解码速度达到 184 tokens/s。
Nimble 9B在M5 Max上平均90毫秒完成决策,输出token只有1到4个,输入token在155到841之间
同名的M4 Max存在410GB/s和546GB/s两种带宽版本,M5 Max存在460和414两个版本
在M1 Max上跑27B模型处理3.2万token提示词需等待超过500秒才输出首字,而M5 Max不到一分钟(优化软件下约40秒)
从M4 Max到M5 Max的解码写入速度仅提升25%,受限于内存带宽
Neural Accelerator需要支持它的软件才能发挥作用,用2023年旧版llama.cpp跑M5 Max读取速度仅约990 tokens/s
提示处理速度上RTX 4090约3000 tokens/s,M5 Max约800 tokens/s,英伟达在长文档/代码库输入场景优势明显
在 M5 Max 芯片上,Lily 的 prefill 速度比 MLX-LM 快 1.23 倍,decode 速度快 1.35 倍(官方数据)
博主使用M4 Max、M5 Max和一台Mac Studio组成三机集群运行该模型
还有 14 条时间轴事件
全部知识事实 (20)
M5 Ultra的UltraFusion晶片间带宽从M3 Ultra的约2.5TB/s提升至4.4TB/s,连接密度提升6倍
85%已验证在M5 Ultra的1.2TB/s带宽下,100GB量化模型理论速度约12 token/s,200GB约6 token/s,300GB约4 token/s
65%已验证M5 Ultra整机AI峰值算力比M3 Ultra高出4倍以上
65%已验证对本科阶段AI课程学习而言,M5 MacBook Pro 24GB内存/1TB存储配置对写代码、跑小规模实验、数据预处理等任务完全够用
65%已验证M5 Ultra很可能采用UltraFusion双芯片互联封装技术,将两颗M5 Max级别芯片组合为一个逻辑整体
65%部分验证LFM2.5-24B-A2B 在 Apple M5 Max 上解码速度达到 184 tokens/s。
65%待验证在700亿参数模型的首token时间测试中,M3 Ultra耗时31.6秒,M5 Ultra仅7.7秒,达到约4.1倍,接近苹果宣称的4.3倍
60%待验证Hacks.gr的测试方使用基准程序将华硕ProArt与2026款16英寸MacBook Pro(M5 Max处理器)以及惠普ZBook Ultra G1a 14进行了对比,但未披露具体跑分数字。
50%待验证Nimble 9B在M5 Max上平均90毫秒完成决策,输出token只有1到4个,输入token在155到841之间
50%待验证同名的M4 Max存在410GB/s和546GB/s两种带宽版本,M5 Max存在460和414两个版本
50%待验证在M1 Max上跑27B模型处理3.2万token提示词需等待超过500秒才输出首字,而M5 Max不到一分钟(优化软件下约40秒)
50%待验证从M4 Max到M5 Max的解码写入速度仅提升25%,受限于内存带宽
50%待验证Neural Accelerator需要支持它的软件才能发挥作用,用2023年旧版llama.cpp跑M5 Max读取速度仅约990 tokens/s
50%待验证提示处理速度上RTX 4090约3000 tokens/s,M5 Max约800 tokens/s,英伟达在长文档/代码库输入场景优势明显
50%待验证在 M5 Max 芯片上,Lily 的 prefill 速度比 MLX-LM 快 1.23 倍,decode 速度快 1.35 倍(官方数据)
50%待验证在4K×4K×16K矩阵乘法规模下,M5 Ultra达到91 TFLOPS,M5 Max和M3 Ultra分别为34和22 TFLOPS
50%待验证M5 Pro的GPU带宽和GPU规模相比M5 Max要差一些
50%待验证对于中小规模模型,M5 Max的强大算力存在冗余,性价比不占优
50%待验证Mac Studio搭载3月MacBook Pro上首发的M5 Max芯片
50%待验证Qwen 3.8在M5 Max上基础速度为22 token/s,开启MTP后可提升到34甚至56 token/s
50%