M4 Max
苹果M4系列高端芯片，内存带宽高达546GB/s，是主流DDR5系统内存带宽的4倍以上，采用LPDDR5X专用内存，支持高性能GPU渲染和神经网络推理
核心事实
时间轴 (近 90 天)
在 M4 Max 上，文本路线使用 Omni 3B + TTS 1.7B（4.61 GB）的完整回合中位数耗时为 4.27 秒，峰值进程 RSS 为 3.86 GiB。
在 M4 Max 上，Omni 3B 对话生成时间中位数为 171 ms、峰值进程 RSS 为 2.57 GiB；Qwen3.5 0.8B 对话生成时间中位数为 96 ms、峰值进程 RSS 为 1.08 GiB；Qwen3-TTS 1.7B 合成时间为 1.78 秒、峰值进程 RSS 为 3.85 GiB。
在高功耗运行中，35B的MoE模型达到78到107 tokens/s，而稠密的27B模型只有22 tokens/s
按高功耗加MLX或Ollama的公开数据，M4 Max上不同模型的解码速度大致阶梯为：Nemotron 3 Nano约160 tokens/s，Qwen 3.5 35B在107到130 tokens/s，Gemma 4 26B约75 tokens/s，DeepSeek V4 Flash约27 tokens/s，稠密27B约22 tokens/s
在 Qwen3 27B 的 llama.cpp 环境下，R9700 跑出 27.1 tokens/s（达带宽上限约65%），B70 跑出 21.4 tokens/s（约50%出头）
从M4 Max到M5 Max的解码写入速度仅提升25%，受限于内存带宽
同名的M4 Max存在410GB/s和546GB/s两种带宽版本，M5 Max存在460和414两个版本
仅用Mac Studio和M4 Max两台机器时，任务超过十万token会因内存不足崩溃，加入第三台机器后解决
博主使用M4 Max、M5 Max和一台Mac Studio组成三机集群运行该模型
在700亿参数模型的首token时间测试中，M3 Ultra耗时31.6秒，M5 Ultra仅7.7秒，达到约4.1倍，接近苹果宣称的4.3倍
还有 1 条时间轴事件
全部知识事实 (15)
M3 Max芯片的统一内存带宽高达400GB/s，远高于传统PCIe总线约64GB/s
80%已验证配备192GB统一内存的Mac Studio M4 Ultra理论上可以运行完整的70B甚至更大参数的模型
70%已验证Apple M2 Ultra最高支持192GB统一内存，理论上可直接运行数百亿参数级别的大模型
65%已验证M4 Max已支持128GB统一内存
65%待验证An M4 Max with 128GB unified memory can directly hold large model weights
80%待验证在700亿参数模型的首token时间测试中，M3 Ultra耗时31.6秒，M5 Ultra仅7.7秒，达到约4.1倍，接近苹果宣称的4.3倍
60%待验证在 M4 Max 上，Omni 3B 对话生成时间中位数为 171 ms、峰值进程 RSS 为 2.57 GiB；Qwen3.5 0.8B 对话生成时间中位数为 96 ms、峰值进程 RSS 为 1.08 GiB；Qwen3-TTS 1.7B 合成时间为 1.78 秒、峰值进程 RSS 为 3.85 GiB。
50%待验证在 M4 Max 上，文本路线使用 Omni 3B + TTS 1.7B（4.61 GB）的完整回合中位数耗时为 4.27 秒，峰值进程 RSS 为 3.86 GiB。
50%待验证在高功耗运行中，35B的MoE模型达到78到107 tokens/s，而稠密的27B模型只有22 tokens/s
50%待验证按高功耗加MLX或Ollama的公开数据，M4 Max上不同模型的解码速度大致阶梯为：Nemotron 3 Nano约160 tokens/s，Qwen 3.5 35B在107到130 tokens/s，Gemma 4 26B约75 tokens/s，DeepSeek V4 Flash约27 tokens/s，稠密27B约22 tokens/s
50%待验证在 Qwen3 27B 的 llama.cpp 环境下，R9700 跑出 27.1 tokens/s（达带宽上限约65%），B70 跑出 21.4 tokens/s（约50%出头）
50%待验证同名的M4 Max存在410GB/s和546GB/s两种带宽版本，M5 Max存在460和414两个版本
50%待验证从M4 Max到M5 Max的解码写入速度仅提升25%，受限于内存带宽
50%待验证仅用Mac Studio和M4 Max两台机器时，任务超过十万token会因内存不足崩溃，加入第三台机器后解决
50%待验证博主使用M4 Max、M5 Max和一台Mac Studio组成三机集群运行该模型
50%