Mac本地AI实测：Locally Uncensored 3.0.6能干哪些活

开源桌面应用 Locally Uncensored 推出 3.0.6 版本，第一次提供 Apple Silicon 原生构建。这款 AGPL-3.0 授权的工具让用户在自己的机器上跑聊天、图像生成、视频、语音甚至电脑控制模型。Windows 和 Linux 版累计下载超过 17 万次，而 Mac 版目前仍标注为 beta——原因很直白：开发团队只在一台 Mac 上跑通过。

系统要求与安装

Mac 版的门槛有两个：必须是 Apple Silicon，Intel 机型不在支持列表里；系统需要 macOS 14 或更新版本。

目前唯一的验证环境是一台 M5 Pro、48 GB 内存、运行 macOS 26 的机器。官方明确表示没有在 macOS 14 或 15 上测试过，也没有在 16 GB 或 24 GB 内存的 Mac 上运行过——如果你恰好用的是这类配置，反馈比在开发机上的重复测试更有价值。

安装流程不复杂：从官网下载 Apple Silicon 版 .dmg，拖入 Applications，启动后向导会自动为你的机器挑选首个模型。安装包经过 Developer ID 签名并通过 Apple 公证，本地使用免费且无需注册账号。

本地聊天与模型后端

聊天功能通过内置的 Metal 加速服务器运行本地模型，不需要提前安装独立的推理引擎。如果你已经在用 Ollama 或 LM Studio，应用也可以把它们当作后端来调用。

围绕对话本身，应用提供了几项实用能力：思考过程实时显示、通过本地索引与自己的文档对话、跨会话保持记忆、切换角色人格、并排对比两个模型的输出。支持图像输入的模型会连同其图像处理组件一起下载——这条下载路径是 3.0.6 新增的，但尚未在 Mac 上单独验证。

应用还暴露了一个本地 API：在 8129 端口运行 OpenAI 兼容服务，把本地模型统一到一个地址下。默认监听 localhost，除非你主动允许局域网访问，且始终要求 token 认证。

Metal 加速是 Apple 为自家芯片（M 系列及 A 系列）提供的底层图形与计算 API，相当于 macOS/iOS 上的 DirectX 或 Vulkan 加 CUDA 的组合。大语言模型推理的核心是矩阵乘法，Metal 允许应用直接调用 GPU 的并行计算单元，从而在 Apple Silicon 的统一内存架构上高效运行模型权重。与 NVIDIA 生态依赖 CUDA 不同，Apple 平台上没有 CUDA 支持，因此所有本地推理引擎都必须通过 Metal（或更上层的 MLX、llama.cpp 的 Metal 后端）来利用 GPU。这也解释了为什么 Mac 版需要单独构建：Windows/Linux 版通常走 CUDA 或 Vulkan 路径，代码无法直接复用。

OpenAI 兼容 API 指服务端接口的请求与响应格式遵循 OpenAI 的 /v1/chat/completions 等规范。这样一来，任何原本为 OpenAI 编写的客户端、脚本或第三方工具，只需把 base URL 改成 http://localhost:8129 并填入 token，就能无修改地调用本地模型。这是本地推理工具常见的互操作策略，避免为每个应用单独适配。

图像生成：不走 ComfyUI

这是 Mac 版与 Windows/Linux 版差异最明显的地方。在 Windows 和 Linux 上，应用通过 ComfyUI 驱动图像生成；Mac 版则完全不依赖 ComfyUI，创建功能直接在本机运行，使用应用自行安装的引擎。

Mac 目录列出了 23 个图像模型，每个模型卡片标注了所需内存，而且这个数字是硬性门槛而非建议值：需要 32 GB 的模型在 16 GB 的 Mac 上会保持锁定状态。最小的模型（SD Turbo、Realistic Vision V5.1）需要 8 GB。

在一台 M5 Pro（48 GB）上的实测数据：

• DreamShaper XL Turbo：单张图像 33 秒
• Qwen-Image 2.1 Turbo：单张图像 38 秒

配置更低的 Mac 会更慢，但具体慢多少没有测量数据。

一个值得注意的 Mac 专属细节：聊天和图像生成共享同一个内存池。在开始生成图片或视频之前，创建模块会把聊天模型从内存中移出，显示"Freeing memory..."，完成后再把模型加载回来。

ComfyUI 是一个基于节点图的 Stable Diffusion 前端，用户通过连接采样器、CLIP 编码器、VAE 等节点来搭建生成流程。它功能强大、社区生态庞大，但依赖 Python 环境和大量自定义节点，部署和排错成本较高。Locally Uncensored 在 Windows/Linux 上把 ComfyUI 当作后端，等于借用了这套成熟管线；Mac 版选择内置自研引擎，则意味着团队要自己实现模型加载、采样调度和内存管理，好处是省去 ComfyUI 的依赖包袱，代价是模型覆盖面和功能丰富度暂时落后。

量化（4-bit / 8-bit） 指把模型权重从 16 位浮点压缩到更低比特，以大幅降低内存占用和带宽需求。4-bit 量化通常能把模型体积压到原来的四分之一左右，代价是少量精度损失。文章中提到「4-bit 量化包需要 16 GB 内存」正是这个原理：量化决定了模型能否在给定内存的机器上装下，因此它既是性能参数也是硬性准入门槛。

图像编辑与 LoRA

Mac 版的编辑功能基于 Qwen-Image 2.1 运行，安装该模型后编辑标签页才会出现。4-bit 量化包需要 16 GB 内存。

操作方式与常见的画笔蒙版不同——没有遮罩概念。你提供一张图片，用文字描述要做的修改，还可以添加参考图片。需要提醒的是，编辑功能虽然在代码和应用中都存在，但并未列入本次发布的计时测试清单，可靠性不如纯生成功能。

LoRA 方面，Mac 目录中名称以 4-bit 或 8-bit 结尾的量化图像模型都支持 LoRA，包括 Qwen-Image 2.1、Qwen-Image 2512、Z-Image Turbo 和 FLUX.2 klein 4B。应用提供独立的 LoRA 列表和文件夹、带强度滑块的堆栈管理，删除操作会将文件移入废纸篓。

一个技术细节：自带 alpha 的 Qwen-Image 2.1 LoRA 现在按照 ComfyUI 的方式计算权重（alpha 除以 rank）。在 3.0.6 之前，它按设定的完整强度运行，效果过强。

LoRA（Low-Rank Adaptation） 是一种轻量微调技术：不改动基础模型的上亿参数，而是额外训练一对小矩阵（低秩分解），推理时把它们叠加到原权重上。一个 LoRA 文件通常只有几十到几百 MB，却能显著改变画风、角色外貌或特定概念。可以把它理解为给模型加装的「插件」——基础模型保持通用，LoRA 负责个性化。

文章中提到的 alpha 除以 rank 是 LoRA 权重的缩放系数。LoRA 的数学形式为 W + (alpha / rank) * B * A，alpha 和 rank 都是训练时设定的超参数。如果实现方忽略了除以 rank 这一步，实际生效的强度会远高于训练者预期，导致输出过曝、失真。3.0.6 修正为按 ComfyUI 的算法计算，就是为了让同一份 LoRA 在不同工具中的表现保持一致。

角色 LoRA 训练：Mac 上不行

这一点需要明确说明，因为很多人会搜索这个功能。在自己硬件上训练角色 LoRA 在 Windows 和 Linux 上可行——Character Studio 会利用你的显卡训练并把结果放入本地 LoRA 文件夹。但在 Mac 上，这个功能不在本地运行。Mac 端的角色训练走托管服务，训练完成的角色可以下载为 .safetensors 文件。

视频生成

Mac 目录列出了 31 个视频模型。最小需求的模型需要 16 GB 内存：LTX-2.3 Distilled 4-bit 和 Wan 2.1 T2V 1.3B（后者建议 32 GB 更稳妥）。

M5 Pro（48 GB）上的参考数据：LTX-2.3 Distilled 4-bit 生成 2 秒 768x512 带声音的片段耗时 64 秒。

启动长时间生成前有两点需要了解。对于已经过实际运行计时的模型，如果预计耗时超过十分钟，创建页面会在开始前告知预计时长，运行中也会显示当前步骤和剩余时间。另外，Mac 目录中大部分视频模型标注为"Experimental: not yet tested in LU"，这个标签需要认真对待。

从图片生成视频的 Animate 功能，在安装了支持起始图片的视频模型后即可使用。

Mac 上不支持的本地功能

Windows 和 Linux 版的创建模块还有若干本地通道：背景移除、会说话的角色、音乐生成、片段延长和运动控制。这些在 Mac 构建中都不在本地运行。放大和擦除功能在所有平台上都走托管服务。

语音模式

语音模式的交互逻辑是：你说话，所选聊天模型回答，你听到语音回复。语音识别、语音合成和轮次切换都在本机运行。提供十五种声音，回答过程中可以通过说话打断。

M5 Pro 上的参考数据：

• 初始设置下载约 0.7 GB
• 回答在问题结束后 1.4 至 2.0 秒开始
• 语音引擎占用内存 1.2 至 1.3 GB

语音功能处于 beta 阶段且仅支持英文。在 Mac 上只做了手动试用，没有经过 Windows 版那样的逐项检查。

电脑控制：功能有限

电脑控制让模型使用鼠标和键盘操作你批准的应用。默认关闭。每次新对话中，模型在查看屏幕前会询问一次，且永远不会在密码框中输入内容。

Mac 上的电脑控制比 Windows 版限制更多，也没有完全测试。应用在开关处直接说明了这一点。具体差异包括：

• macOS 需要先授予两项权限：辅助功能和屏幕录制
• Windows 上模型能获取窗口中按钮和字段的列表；macOS 上该列表不可用，模型需要图像输入并基于截图工作
• 出于同样原因，应用无法预知点击会触发什么，每次点击都需要询问并等你确认
• 自主模式仅在 Windows 上存在

Control+Option+Space 暂停，Control+Option+Esc 停止。官方建议在 Mac 上把它当作尝鲜功能，而非可依赖的工具。

辅助功能（Accessibility） 和 屏幕录制（Screen Recording） 是 macOS 的两项隐私权限，需用户在「系统设置 → 隐私与安全性」中手动授予，应用无法自行获取。辅助功能权限允许程序读取和模拟 UI 元素、发送模拟点击与键盘事件；屏幕录制权限则允许截取屏幕内容。没有这两项授权，电脑控制类功能在 macOS 上寸步难行。

窗口元素列表 指的是操作系统提供的无障碍接口（Windows 上是 UI Automation，macOS 上是 AX API）所暴露的界面元素树，包含按钮、输入框、菜单等的名称、位置和类型。Windows 版能拿到这份结构化列表，模型可以直接「看到」按钮叫什么并按名字点击；macOS 上该能力受限，模型只能依赖截图做视觉识别，因此无法预知点击后果，必须每次都请求用户确认。

编程智能体

Agent 和 Code 标签页包含在 Mac 构建中。智能体的 shell 会继承登录 shell 的 PATH，因此通过 Homebrew 安装的工具可以被找到。智能体还能把本地图像和视频引擎作为工具调用。不过这两个标签页没有单独的 Mac 测试记录可供参考。

尚未确认的功能

远程访问（通过手机使用应用）和自动更新（没有更旧的 Mac 版本可供升级）在 macOS 上的表现尚未确认。

一句话总结

本地聊天、图像生成、提示词驱动的图像编辑、LoRA、视频和语音可以在 Mac 本机运行，不需要 ComfyUI，不需要账号。角色 LoRA 训练、音乐、会说话的角色等功能暂时不支持 Mac 本地运行。电脑控制存在但未完全测试。所有验证都基于一台 M5 Pro 48 GB 完成，这正是该构建标注 beta 的原因。

遇到问题可以通过 GitHub issue 跟踪器反馈。如果 Mac 是 Intel 机型或内存不足，同类模型也可以通过 LU Cloud 在浏览器中以托管方式运行，该服务为付费模式，而上述本地功能全部免费。