[控场AI]
产品Foundation Models框架 / Apple Foundation Models框架

Apple Foundation Models

Apple推出的设备端基础模型框架,为iOS应用提供免费、离线运行的30亿参数语言模型,支持Tool protocol工具调用,具备隐私保护特性

时间轴 (近 90 天)

10月12日

不要信任引擎自报的availability标志,应用一次真实的单token调用去探活并缓存结果

待验证50%
10月12日

Apple Foundation Models无需下载随系统附带,首次调用首字时间9.7-19.2秒,后续调用首字时间中位数580ms,模型跑在系统进程不占用应用内存

待验证50%
10月12日

Apple的测试数字跑在Mac(M1/8GB)上,不能用来预测真机延迟,只能用于两套引擎之间的横向对比

待验证50%
10月12日

在iOS 26.3模拟器中apple.isAvailable()返回true但30次调用全部以GenerationError error -1失败,原因是模型目录没有资产,同一模型在macOS 26.6的Swift环境下能正常工作

待验证50%
10月12日

在门店审核清单的结构化输出任务中,ExecuTorch(Llama 3.2 1B,schema塞进prompt)20次调用只有2次有效,而Apple Foundation Models(引导式生成)20次全部有效

待验证50%
10月12日

Apple Foundation Models通过引导式生成在框架层面约束模型输出使其必然符合给定类型结构,而ExecuTorch没有对应能力,只能把schema写进prompt

待验证50%
10月11日

Apple Foundation Models的每个会话拥有4096个token的上下文窗口

待验证50%
10月11日

Apple Foundation Models框架的Tool protocol允许开发者将外部函数注册为模型可调用的工具,模型负责判断何时调用哪个工具及传入参数,实际执行逻辑由开发者控制的Swift代码完成

待验证50%
10月11日

Apple的Foundation Models框架为iOS应用提供了一个免费、离线运行的30亿参数模型

待验证50%

全部知识事实 (9)

来源文章