MLX
苹果自研的机器学习框架，专为Apple Silicon芯片优化，支持在Mac本地高效运行大型语言模型
核心事实
时间轴 (近 90 天)
safetensors 可在 transformers、vLLM 原生环境、ComfyUI 以及 Apple 的 MLX 工具链中打开。
Ollama 基于 GGUF 引擎构建，但仍然提供 MLX 运行器，以便 Apple Silicon 用户加载源自 safetensors 的权重。
oMLX 是一个建立在 MLX 之上的 LLM 推理服务，支持连续批处理、内存+SSD 两级 KV 缓存，并兼容 OpenAI 与 Anthropic 的 API。
Qwen3.5、Qwen3.6 和 Qwen3.8 在 MLX 上获得了更快的 prefill 和 speculative decoding 支持。
在M3 Max上运行Gemma 4 26B，MLX为65.0 tokens/s，LLAMA.cpp为63.9 tokens/s，两者基本打平
Ollama 0.19 于3月30日发布，在Apple Silicon上切换到MLX后端，解码速度从58 tokens/s跳到112
在公平的4-bit对比中，MLX搭配D-Flash 2推测解码跑出16.6 tokens/s，对比Ollama Q4的5.7 tokens/s
John Rocky的Apple Silicon LLM基准记录到NVIDIA Nemotron 3 Nano在MLX上159.7 tokens/s、LLAMA.cpp上86.2 tokens/s，但两次运行的量化并不一致
Jordan Ilchif在32GB M4 MacBook Air上测试Qwen 3.8 27B，Ollama的NVFP4构建跑出17.2 tokens/s，纯MLX 6.6 tokens/s，LLAMA.cpp 4.4 tokens/s，但格式不同
Ash的LLM Picker项目收集了92份公开Mac测量数据，显示在多数模型上MLX仅领先LLAMA.cpp 1到1.2倍，大差距主要集中在Qwen 3.5和3.6系列
还有 40 条时间轴事件
全部知识事实 (20)
MLX针对Apple Silicon的统一内存架构进行专项优化
85%已验证MLX是Apple专为Apple Silicon芯片设计的机器学习框架，能充分利用M系列芯片统一内存架构（UMA）的优势
80%已验证AMD的ROCm和Intel的oneAPI在生态完整度、社区支持和性能调优工具方面与CUDA仍存在显著差距
75%已验证M1的统一内存架构使CPU和GPU物理共享同一块内存，无需显式数据拷贝，只需传递指针或虚拟地址
75%已验证苹果于2023年底开源MLX框架，专为Apple Silicon设计
75%已验证Apple Silicon的Neural Engine与CPU、GPU共享统一内存架构（Unified Memory Architecture），消除了传统异构计算中数据在不同内存池之间搬运的瓶颈
75%已验证Apple MLX框架是苹果2023年底专为M系列芯片设计的机器学习框架，利用统一内存架构消除内存拷贝开销，在M2 Ultra（最高192GB统一内存）上可运行700亿参数模型
65%已验证Ollama v0.40.0在Apple Silicon芯片上默认启用MLX运行时来执行模型推理
75%待验证Apple Silicon M-series unified memory architecture allows CPU and GPU to share the same physical memory, eliminating data copy overhead beneficial for LLM inference
90%待验证npcpy深度适配Apple Silicon，在MLX架构下运行LoRA，rank拉到128，配合Flash Attention 2.0
80%待验证MLX 支持懒执行（lazy evaluation）计算图，只在真正需要结果时才触发运算
70%待验证量化后的 MLX KV 缓存相比之前可减少高达 74% 的提示词内存占用
70%待验证MLX是Apple机器学习研究团队于2023年底开源的深度学习框架，专为Apple Silicon设计，采用惰性计算策略并原生支持统一内存模型
70%部分验证统一内存架构使CPU、GPU与NPU共享同一块内存池，避免数据在处理单元间反复搬运的开销
65%待验证在能装入32GB显存的中小模型上，RTX 5090领先（Gemma 4 12B约45%，GPT-OSS 20B超75%），但Qwen 3 27B从Q4的47%领先降到Q8的23%
60%待验证MLX 是 Apple 专为 Apple Silicon 设计的机器学习框架，在预填充阶段表现出色；GGUF 是 llama.cpp 生态的通用量化格式，跨平台兼容性更强
60%待验证safetensors 可在 transformers、vLLM 原生环境、ComfyUI 以及 Apple 的 MLX 工具链中打开。
50%待验证Ollama 基于 GGUF 引擎构建，但仍然提供 MLX 运行器，以便 Apple Silicon 用户加载源自 safetensors 的权重。
50%待验证oMLX 是一个建立在 MLX 之上的 LLM 推理服务，支持连续批处理、内存+SSD 两级 KV 缓存，并兼容 OpenAI 与 Anthropic 的 API。
50%待验证Qwen3.5、Qwen3.6 和 Qwen3.8 在 MLX 上获得了更快的 prefill 和 speculative decoding 支持。
50%