Core ML
苹果推出的机器学习框架，用于在iOS/macOS设备上本地运行和部署AI模型，支持神经网络引擎加速推理，是端侧AI开发的核心工具链之一
核心事实
时间轴 (近 90 天)
苹果的 Metal Performance Shaders 与 Core ML 框架可将推理卸载到 GPU 和神经引擎，降低对 CPU 的占用。
在 iOS 设备上运行 Whisper 模型需要将模型转换为 Core ML 或使用 whisper.cpp 等推理框架，并借助 Apple Neural Engine 加速。
在 MacBook Air 上实现13秒转录一小时音频，通常涉及模型选择（Whisper系列或优化版本）、推理加速（Metal加速、Core ML转换等）以及精度取舍（量化如int8、int4）等技术方案。
ml-stable-diffusion 是 Apple 官方开源的转换工具库，用于将 Stable Diffusion 系列的 PyTorch 权重转换为 Core ML 格式，使模型能调用 iPhone 的神经引擎进行推理。
Anvil 的图像生成功能名为 Anvil Dream，是一个 SDXL Lightning 变体，经 Apple 的 ml-stable-diffusion 转换为 Core ML 格式，在神经引擎上生成 1024x1024 图像。
测试音频处理路径与麦克风采集一致：FLAC先经AVAudioFile解码，再用AVAudioConverter重采样到16 kHz单声道Float32，音频提前读入内存，文件I/O不计入耗时；仅对transcribe阶段计时，模型下载和Core ML准备在计时区外。
iOS 端导出为 Core ML 8-bit 权重，模型体积 26MB，与 fp32 标签一致率 99.96%，键盘中实际使用 CPU 计算单元，release 构建下约 4ms 一句；Android 端使用 ONNX opset 17 加 int8 动态量化，27MB，一致率 99.1%，CPU 上同样约 4ms 一句。
苹果神经引擎的优势之一在于与Core ML框架的深度集成，使开发者能更高效地将模型推理卸载到专用硬件
端侧AI的核心技术路径通常依赖轻量化模型框架，如ONNX Runtime、TensorFlow Lite或Apple的Core ML
Core ML允许开发者将ONNX、PyTorch等格式的训练模型转换为可在Apple设备上高效推理的格式，无需网络请求
还有 11 条时间轴事件
全部知识事实 (20)
Apple Intelligence是苹果在WWDC 2024上发布的系统级AI框架
80%已验证Apple Core ML框架允许开发者将PyTorch或TensorFlow训练的模型转换为.mlmodel格式在本地运行，利用GPU和Neural Engine并行计算
75%待验证在Apple Silicon设备上，借助Core ML转换工具和ANE加速，Whisper medium模型可实现接近实时的转录速度
75%部分验证苹果同时掌控芯片设计、操作系统和应用框架（如Core ML），能够实现从模型压缩到硬件调度的全链路优化
65%待验证Apple 在 macOS 14 中引入了增强版 Speech 框架以及 Core ML 对 Whisper 模型的优化转换
60%待验证苹果的 Metal Performance Shaders 与 Core ML 框架可将推理卸载到 GPU 和神经引擎，降低对 CPU 的占用。
50%待验证在 iOS 设备上运行 Whisper 模型需要将模型转换为 Core ML 或使用 whisper.cpp 等推理框架，并借助 Apple Neural Engine 加速。
50%待验证在 MacBook Air 上实现13秒转录一小时音频，通常涉及模型选择（Whisper系列或优化版本）、推理加速（Metal加速、Core ML转换等）以及精度取舍（量化如int8、int4）等技术方案。
50%待验证ml-stable-diffusion 是 Apple 官方开源的转换工具库，用于将 Stable Diffusion 系列的 PyTorch 权重转换为 Core ML 格式，使模型能调用 iPhone 的神经引擎进行推理。
50%待验证Anvil 的图像生成功能名为 Anvil Dream，是一个 SDXL Lightning 变体，经 Apple 的 ml-stable-diffusion 转换为 Core ML 格式，在神经引擎上生成 1024x1024 图像。
50%待验证测试音频处理路径与麦克风采集一致：FLAC先经AVAudioFile解码，再用AVAudioConverter重采样到16 kHz单声道Float32，音频提前读入内存，文件I/O不计入耗时；仅对transcribe阶段计时，模型下载和Core ML准备在计时区外。
50%待验证iOS 端导出为 Core ML 8-bit 权重，模型体积 26MB，与 fp32 标签一致率 99.96%，键盘中实际使用 CPU 计算单元，release 构建下约 4ms 一句；Android 端使用 ONNX opset 17 加 int8 动态量化，27MB，一致率 99.1%，CPU 上同样约 4ms 一句。
50%待验证苹果神经引擎的优势之一在于与Core ML框架的深度集成，使开发者能更高效地将模型推理卸载到专用硬件
50%待验证端侧AI的核心技术路径通常依赖轻量化模型框架，如ONNX Runtime、TensorFlow Lite或Apple的Core ML
50%待验证Core ML允许开发者将ONNX、PyTorch等格式的训练模型转换为可在Apple设备上高效推理的格式，无需网络请求
50%待验证本地推理的主流方案包括 llama.cpp、Ollama、ONNX Runtime 以及 Apple 的 Core ML
50%待验证常见的端侧模型部署方案包括 Core ML、llama.cpp 等框架，可将模型权重压缩至几百 MB 到几 GB 不等
50%待验证苹果提供的 MLComputeUnits 选项仅允许粗粒度指定偏好的计算后端，无法强制单个算子在 ANE 上运行
50%待验证当模型中出现不符合 ANE 约束的算子时，Core ML 运行时会将该算子回退到 GPU 或 CPU 执行，从而消耗大量内存带宽并引入同步延迟
50%待验证Instruments 中的 Core ML Instrument 可以观察模型各层执行情况，但颗粒度有限
50%