Ollama 0.40 Mac版实测：MLX成默认引擎，磁盘占用翻倍

Ollama 0.40 在 Apple Silicon 上做了一个安静但影响深远的改变：支持的模型默认跑在 MLX 推理框架上。同时，它还会在你每次加载模型时悄悄保留一份备份副本——磁盘空间因此翻倍。这两个变化叠在一起，对 Mac 本地大模型玩家来说是一笔需要认真算的账。

MLX 成为默认：苹果芯片上的性能账

MLX 是苹果为 Apple Silicon 打造的开源机器学习框架，和 Ollama 此前默认使用的 llama.cpp 后端相比，它能更充分利用统一内存架构和 Metal GPU。对 M 系列芯片用户来说，这意味着同一模型在生成速度和内存效率上通常能拿到更好的表现。

Ollama 0.40 的变化不是提供一个 MLX 选项，而是把受支持模型直接切到 MLX 上运行。用户的体感是：升级后不用做任何配置，模型跑起来就和以前不一样了——这是默默迁移，不是新功能开关。

对已经在 Mac 上部署本地模型的开发者来说，这个默认值得留意。它降低了尝鲜 MLX 的门槛，但也意味着你的推理行为、显存占用曲线甚至输出质量都可能和旧版本有细微差异，需要重新验证。

llama.cpp 是一个用 C/C++ 编写的开源大模型推理引擎，最初以在消费级硬件（尤其是 CPU）上高效运行 GGUF 格式量化模型而闻名。它的优势在于跨平台、依赖少、社区模型转换工具链成熟，因此长期是 Ollama 在 Mac 上的默认后端。但 llama.cpp 对 Apple Silicon 的统一内存和 Metal GPU 的调用相对保守，更多是"能用"而非"榨干"。

统一内存架构（Unified Memory Architecture） 是 Apple Silicon 的核心特征：CPU、GPU 和神经引擎共享同一块物理内存，数据无需在 CPU 内存和显存之间来回拷贝。这理论上能让大模型推理避免传统 PC 上"显存不够就掉到 CPU"的窘境，但也要求推理框架专门为这种共享布局做优化。MLX 正是苹果为此设计的框架，而 llama.cpp 的通用架构在这一点上先天吃亏。

磁盘翻倍：备份副本的代价

比 MLX 更容易被忽视的是磁盘行为。Ollama 0.40 在加载模型时，会为每个模型保留一份备份副本。原始模型文件还在，备份也在，磁盘占用直接翻倍。

对一个 7B 级别的量化模型来说，额外开销可能是几个 GB；如果你本地囤了十几个模型，多出来的空间就很可观了。问题在于这个行为并不显眼——没有弹窗告诉你“正在复制一份”，用户往往是在磁盘告急时才发现。

Ollama 官方文档把这项机制描述为一种安全设计，但代价确实落在用户磁盘上。对于存储紧张的 Mac 用户，这是升级前必须算清楚的一笔账。

量化模型 指通过降低权重数值精度（如从 FP16 降到 4-bit、5-bit）来压缩模型体积的技术。以 7B 参数模型为例，FP16 下约需 14GB，而 4-bit 量化后可压到 4GB 左右。文中"几个 GB 的额外开销"正是基于量化后的体积估算——备份一份 4GB 的模型就多占 4GB。这也解释了为什么模型数量一多，磁盘压力会迅速累积：每个模型都要乘以二。

如何清理：找回被占用的空间

既然副本是 Ollama 自己生成的，清理也需要用 Ollama 的方式。最直接的是用 ollama list 查看本地模型清单，再用 ollama rm <模型名> 删除不再需要的模型——删除时通常会把原始文件和备份一并清掉。

如果只是想确认磁盘到底被什么占了，可以在 Ollama 的模型目录（macOS 上通常在 ~/.ollama/models 下）检查文件结构，对比升级前后的体积差异。对于确定要继续使用的模型，备份本身不建议手动删除，否则可能影响 Ollama 的加载逻辑。

一个务实的策略是：先升级，观察磁盘变化，把不常用的模型清掉，再评估这份“磁盘税”是否值得。

这次升级值不值得

从功能角度看，Ollama 0.40 的方向是明确的：把 Apple Silicon 上体验更好的 MLX 变成默认，减少用户的配置负担。对追求本地推理性能的 Mac 用户，这是正向的一步。

但磁盘翻倍的副作用也真实存在，尤其对把 Ollama 当日常工具、模型库里躺着十几个权重的用户。升级带来的性能收益，需要用一部分存储空间来换。

判断标准其实简单：如果你主要跑一两个常用模型、磁盘还有余量，升级没什么犹豫；如果你本地模型数量多、又是小容量 MacBook，升级前最好先清理一轮，或者干脆等后续版本看官方是否会把备份行为改成可选项。

无论如何，Ollama 0.40 提醒了一件事：在本地大模型这件事上，性能优化和资源占用往往是一体两面。MLX 让推理更快，备份让磁盘更满——这份账，每个 Mac 用户都要自己算。