Apple Silicon
Apple Silicon是苹果公司自主研发的系列芯片架构,基于ARM指令集设计,主要用于Mac电脑、iPhone、iPad等苹果设备。其核心特征包括:采用统一内存架构(UMA)使CPU、GPU及神经网络引擎共享高带宽内存;集成高性能与高能效核心的混合设计;以及内置专用神经网络引擎,支持机器学习与图像处理等任务。Apple Silicon标志着苹果从第三方处理器转向全栈自研芯片的战略转型。
核心事实
时间轴 (近 90 天)
目前在售的全线 Mac 产品(MacBook Air、MacBook Pro、Mac mini、Mac Studio、Mac Pro、iMac)均已搭载 M 系列芯片
Homebrew 默认将软件安装在 Cellar 目录,Intel Mac 下为 /usr/local/Cellar,Apple Silicon 下为 /opt/homebrew/Cellar
端侧推理随着 Apple Silicon 的 Neural Engine、高通 Snapdragon 的 NPU 以及 Google 的 Gemini Nano 等硬件加速单元普及而变得可行
Ollama与llama.cpp是目前在Apple Silicon上使用最广泛的本地推理工具
ScreenCaptureKit 可与 AVFoundation 的编码管线衔接,利用 Apple Silicon 芯片上的 Media Engine 完成 H.264/HEVC 编码,全程不经过 CPU
对于音视频、AI 推理等强依赖硬件能力的场景,能否充分调用硬件加速能力正在成为核心竞争力所在
标准版芯片在内存带宽上往往难以与Pro/Max系列相提并论
Apple Silicon上原生推荐使用MLX 4位仿射量化(组大小64),4位MLX构建约占15GB统一内存
Remuda支持的平台包括macOS 12+(Apple Silicon)和x86-64 Linux(提供.deb和AppImage格式)
PyTorch维护torch.xpu、torch.mps(Apple Silicon)等设备命名空间
还有 40 条时间轴事件
全部知识事实 (20)
苹果自研的Private Cloud Compute架构服务器端使用Apple Silicon芯片,运行在安全飞地中,数据处理完毕即销毁
90%已验证Apple Intelligence是苹果在WWDC 2024上发布的系统级AI框架
80%已验证Apple Intelligence底层依托苹果自研的端侧小模型与Private Cloud Compute混合架构
80%已验证MLX针对Apple Silicon的统一内存架构进行专项优化
75%已验证M4芯片的Neural Engine每秒可执行38万亿次运算(38 TOPS)
75%已验证Apple Silicon的Neural Engine与CPU、GPU共享统一内存架构(Unified Memory Architecture),消除了传统异构计算中数据在不同内存池之间搬运的瓶颈
70%已验证苹果芯片采用统一内存设计,CPU、GPU与神经网络引擎共享同一物理内存池,内存带宽可达300GB/s以上
65%已验证Apple Silicon的Neural Engine已能在M系列芯片上流畅运行数十亿参数模型,高通骁龙X Elite等端侧芯片专为AI推理优化
65%已验证Apple MLX框架是苹果2023年底专为M系列芯片设计的机器学习框架,利用统一内存架构消除内存拷贝开销,在M2 Ultra(最高192GB统一内存)上可运行700亿参数模型
65%已验证ARM64架构主要出现在高通骁龙处理器的Windows设备(如Surface Pro X)以及苹果M系列芯片的Mac电脑上
65%待验证Apple Silicon芯片(M1及后续系列)内置了专用的Media Engine硬件模块负责视频编解码的硬件加速
95%待验证macOS用户需注意:苹果从Apple Silicon(M系列芯片)起不再原生支持eGPU,这款盒子在M系列Mac上无法正常使用,仅限Intel Mac搭配macOS或Windows使用
95%待验证Apple Silicon M-series unified memory architecture allows CPU and GPU to share the same physical memory, eliminating data copy overhead beneficial for LLM inference
90%待验证PyTorch从1.12版本开始支持MPS后端,使Mac用户能利用Apple Silicon进行模型训练和推理
90%待验证llama.cpp专门针对CPU和Apple Silicon进行了深度优化
85%待验证本地部署大语言模型的内存选型路径:仅CPU推理需内存≥模型参数量的1.2倍(如70B量化模型约需48-64G);GPU推理主要看显存,内存作为加载缓冲128G足够;多模型/长上下文场景优先192G
80%部分验证不适合Apple Silicon Mac用户,该产品仅兼容Intel Mac和Windows,M系列芯片Mac已不支持外置GPU
65%待验证Speechmark 实现离线运行依托于 Apple Silicon 芯片的神经网络引擎以及 Whisper 等开源语音识别模型的轻量化优化
60%待验证Draw Things是一款专为Apple Silicon(M系列芯片)优化的本地AI图像生成应用,支持Stable Diffusion系列模型的本地推理
60%待验证目前在售的全线 Mac 产品(MacBook Air、MacBook Pro、Mac mini、Mac Studio、Mac Pro、iMac)均已搭载 M 系列芯片
50%