苹果官方开源的「端侧AI开发套件」：让大模型轻松跑在iPhone和Mac上

昆仑 AI

2026-06-10 0 10

苹果推出的 coreai-models 是一套面向开发者、专为「设备端AI」（On-device AI）打造的开源工具集。它不是训练大模型的框架，而是帮你把已有的开源模型（比如Llama、Phi、Stable Diffusion等）快速适配到苹果生态——真正实现模型在iPhone、iPad或Mac上本地运行，无需联网、不传数据、低延迟响应。对于重视隐私、追求实时交互、或需要离线AI能力的应用开发者来说，这是目前最官方、最轻量、也最贴近苹果原生技术栈的一站式解决方案。

核心功能

一键导出主流模型：内置数十个Hugging Face热门模型（如Phi-3、TinyLlama、Whisper Tiny等）的导出配方（recipes），支持自动将PyTorch模型转为苹果Core AI框架可加载的.mlmodel格式
Python建模基石：提供可复用的PyTorch基础组件（primitives），例如量化感知训练模块、动态形状适配器、Core AI兼容的算子封装，大幅降低自定义轻量模型的开发门槛
Swift运行时封装：开箱即用的Swift Package（coreai-models），封装了Core AI底层API，支持在iOS/macOS App中几行代码完成模型加载、输入预处理、推理调用与结果解析
智能体技能插件：提供「Skills」模块，让AI编程助手（如基于LLM的Agent）能自动识别设备能力、选择最优本地模型、并生成符合Core AI约束的执行指令，提升端侧智能体的实用性
跨平台一致性保障：所有导出流程和运行时均严格遵循Apple Core AI规范，确保同一模型在iPhone 15 Pro、MacBook Air（M系列芯片）等不同设备上行为一致、性能可预期
极简依赖与极速安装：采用现代化Python包管理工具 uv（比pip快10倍以上），模型导出脚本全部声明式配置，避免手动修改代码即可切换模型与精度

适合哪些人用

如果你是以下角色之一，这个项目会极大提升你的开发效率：
✅ iOS/macOS原生应用开发者——想在App中集成语音识别、文本摘要、图像描述等AI能力，又不愿依赖云端API；
✅ 边缘AI工程师——需要在资源受限设备（如AR眼镜、智能家居终端）上部署轻量模型；
✅ 教育/研究者——教学演示Core AI原理，或对比不同端侧推理框架（Core AI vs. ML Compute vs. TorchScript）的实际表现；
✅ AI Agent构建者——正在开发能在手机上自主思考、调用本地能力的智能体，需要稳定可靠的设备端模型调度层。

快速上手

只需三步即可体验：首先，通过Homebrew安装超快的Python包管理器 uv：
brew install uv
然后，克隆项目并进入模型目录：
git clone https://github.com/apple/coreai-models.git && cd coreai-models/models/phi-3-mini
最后，按该模型README中的指令一键导出（例如 uv run export.py），生成的.mlmodel文件可直接拖入Xcode工程；Swift端只需在Package.swift中添加依赖：
.package(url: "https://github.com/apple/coreai-models", from: "0.1.0")，再调用 CoreAIModel.load(...) 即可运行。