Apple Silicon
Apple Silicon是苹果公司自主研发的系列芯片架构,基于ARM指令集设计,主要用于Mac电脑、iPhone、iPad等苹果设备。其核心特征包括:采用统一内存架构(UMA)使CPU、GPU及神经网络引擎共享高带宽内存;集成高性能与高能效核心的混合设计;以及内置专用神经网络引擎,支持机器学习与图像处理等任务。Apple Silicon标志着苹果从第三方处理器转向全栈自研芯片的战略转型。
Core Facts
Timeline (last 90 days)
Homebrew 默认将软件安装在 Cellar 目录,Intel Mac 下为 /usr/local/Cellar,Apple Silicon 下为 /opt/homebrew/Cellar
端侧推理随着 Apple Silicon 的 Neural Engine、高通 Snapdragon 的 NPU 以及 Google 的 Gemini Nano 等硬件加速单元普及而变得可行
Ollama与llama.cpp是目前在Apple Silicon上使用最广泛的本地推理工具
对于音视频、AI 推理等强依赖硬件能力的场景,能否充分调用硬件加速能力正在成为核心竞争力所在
ScreenCaptureKit 可与 AVFoundation 的编码管线衔接,利用 Apple Silicon 芯片上的 Media Engine 完成 H.264/HEVC 编码,全程不经过 CPU
标准版芯片在内存带宽上往往难以与Pro/Max系列相提并论
Apple Silicon上原生推荐使用MLX 4位仿射量化(组大小64),4位MLX构建约占15GB统一内存
Remuda支持的平台包括macOS 12+(Apple Silicon)和x86-64 Linux(提供.deb和AppImage格式)
PyTorch维护torch.xpu、torch.mps(Apple Silicon)等设备命名空间
此次Apple Silicon迁移的过渡期长达约五年,远超前两次约两年的过渡期
40 more timeline events
All Facts (20)
苹果自研的Private Cloud Compute架构服务器端使用Apple Silicon芯片,运行在安全飞地中,数据处理完毕即销毁
90%VerifiedApple Intelligence是苹果在WWDC 2024上发布的系统级AI框架
80%VerifiedApple Intelligence底层依托苹果自研的端侧小模型与Private Cloud Compute混合架构
80%VerifiedMLX针对Apple Silicon的统一内存架构进行专项优化
75%VerifiedM4芯片的Neural Engine每秒可执行38万亿次运算(38 TOPS)
75%VerifiedApple Silicon的Neural Engine与CPU、GPU共享统一内存架构(Unified Memory Architecture),消除了传统异构计算中数据在不同内存池之间搬运的瓶颈
70%Verified苹果芯片采用统一内存设计,CPU、GPU与神经网络引擎共享同一物理内存池,内存带宽可达300GB/s以上
65%VerifiedApple Silicon的Neural Engine已能在M系列芯片上流畅运行数十亿参数模型,高通骁龙X Elite等端侧芯片专为AI推理优化
65%VerifiedApple MLX框架是苹果2023年底专为M系列芯片设计的机器学习框架,利用统一内存架构消除内存拷贝开销,在M2 Ultra(最高192GB统一内存)上可运行700亿参数模型
65%VerifiedARM64架构主要出现在高通骁龙处理器的Windows设备(如Surface Pro X)以及苹果M系列芯片的Mac电脑上
65%UnverifiedApple Silicon芯片(M1及后续系列)内置了专用的Media Engine硬件模块负责视频编解码的硬件加速
95%UnverifiedmacOS用户需注意:苹果从Apple Silicon(M系列芯片)起不再原生支持eGPU,这款盒子在M系列Mac上无法正常使用,仅限Intel Mac搭配macOS或Windows使用
95%UnverifiedApple Silicon M-series unified memory architecture allows CPU and GPU to share the same physical memory, eliminating data copy overhead beneficial for LLM inference
90%UnverifiedPyTorch从1.12版本开始支持MPS后端,使Mac用户能利用Apple Silicon进行模型训练和推理
90%Unverifiedllama.cpp专门针对CPU和Apple Silicon进行了深度优化
85%Unverified本地部署大语言模型的内存选型路径:仅CPU推理需内存≥模型参数量的1.2倍(如70B量化模型约需48-64G);GPU推理主要看显存,内存作为加载缓冲128G足够;多模型/长上下文场景优先192G
80%Partially Verified不适合Apple Silicon Mac用户,该产品仅兼容Intel Mac和Windows,M系列芯片Mac已不支持外置GPU
65%UnverifiedSpeechmark 实现离线运行依托于 Apple Silicon 芯片的神经网络引擎以及 Whisper 等开源语音识别模型的轻量化优化
60%UnverifiedDraw Things是一款专为Apple Silicon(M系列芯片)优化的本地AI图像生成应用,支持Stable Diffusion系列模型的本地推理
60%UnverifiedHomebrew 默认将软件安装在 Cellar 目录,Intel Mac 下为 /usr/local/Cellar,Apple Silicon 下为 /opt/homebrew/Cellar
50%