面向 Spezi 生态的 Swift LLM 模块包,支持端侧模型、OpenAI 与 Fog 节点推理。
apple/coreai-models
苹果推出的端侧 AI 工具集,包含模型导出方案、PyTorch 构建模块和 Swift 运行时工具,基于 Core AI 在 macOS 与 iOS 上运行模型。
- Star
- 2,286
- Fork
- 253
- 未关闭 Issue
- 45
- 最近提交
- 15小时前
这是什么?
Core AI Models 是一套用于在苹果设备上通过 Core AI 框架运行 AI 模型的工具集。它提供导出方案,可将 Hugging Face 等来源的常见开源模型转换为 Core AI 格式,生成独立的 .aimodel 文件。对于需要多个文件的模型,例如需要分词器的语言模型,或由多个模型串联的扩散管线,导出方案会生成资源文件夹,并由配套的 Swift 包加载。
仓库分为四部分:带有各模型导出方案的模型目录、用于在 PyTorch 中编写自定义 Core AI 模型的 Python 构建模块、名为 coreai-models 的 Swift 包(提供 macOS 与 iOS 应用的运行时工具),以及帮助编程助手使用 Core AI 的 agent skills。仓库还包含可直接在 Mac 上运行已导出模型的命令行工具。
项目面向 macOS 和 iOS 27.0 及以上版本,需要 Xcode 27.0 或更高版本。
核心功能
- 01将 Hugging Face 等来源的常见开源模型导出为 Core AI 的 .aimodel 格式。
- 02提供 Python 构建模块,用于在 PyTorch 中编写端侧执行的自定义模型。
- 03提供 Swift 包,用于在 macOS 和 iOS 应用中集成模型运行时。
- 04包含命令行工具,可直接在 Mac 上运行已导出的模型。
- 05为 Claude Code、Codex CLI 和 Gemini CLI 提供 agent skills。
适用场景
- 将开源语言模型或扩散模型集成到基于 Apple 芯片的 iOS 或 macOS 应用中。
- 编写自定义 PyTorch 模型并导出,用于端侧推理。
- 使用 coreai-opt 对模型权重进行量化或调色板化,以减小模型体积。
- 让编程助手协助将 PyTorch 模型部署到 Core AI。
快速上手
- 1
通过 Homebrew 安装 uv
brew install uv - 2
克隆代码仓库
git clone https://github.com/apple/coreai-models.git && cd coreai-models - 3
从注册表列出支持的模型
uv run coreai.model.registry --list-models
使用前须知
- 需要 macOS 和 iOS 27.0 及以上版本以及 Xcode 27.0 及以上版本,仅限苹果平台。
- 依赖苹果较新的 Core AI 框架和操作系统版本。
收录于专题
标签
常见问题
- coreai-models 是什么?
- 苹果推出的端侧 AI 工具集,包含模型导出方案、PyTorch 构建模块和 Swift 运行时工具,基于 Core AI 在 macOS 与 iOS 上运行模型。 Core AI Models 是一套用于在苹果设备上通过 Core AI 框架运行 AI 模型的工具集。它提供导出方案,可将 Hugging Face 等来源的常见开源模型转换为 Core AI 格式,生成独立的 .aimodel 文件。对于需要多个文件的模型,例如需要分词器的语言模型,或由多个模型串联的扩散管线,导出方案会生成资源文件夹,并由配套的 Swift 包加载。
- coreai-models 可以免费使用吗?用的什么许可证?
- coreai-models 以 BSD-3-Clause 许可证开源。用于商业产品前,请先确认许可证条款。
- coreai-models 还在维护吗?
- 活跃维护中。coreai-models 最近一次提交是在 2026年11月6日。
- coreai-models 适合用来做什么?
- 将开源语言模型或扩散模型集成到基于 Apple 芯片的 iOS 或 macOS 应用中。 编写自定义 PyTorch 模型并导出,用于端侧推理。 使用 coreai-opt 对模型权重进行量化或调色板化,以减小模型体积。 让编程助手协助将 PyTorch 模型部署到 Core AI。
- coreai-models 怎么安装和运行?
- 通过 Homebrew 安装 uv: brew install uv 克隆代码仓库: git clone https://github.com/apple/coreai-models.git && cd coreai-models 从注册表列出支持的模型: uv run coreai.model.registry --list-models
- 在哪里获取 coreai-models?
- 源代码和安装说明在 GitHub 上:https://github.com/apple/coreai-models
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
开源 macOS 语音转文字听写应用,支持本地模型识别与可选的 AI 文本润色,可作为 Wispr Flow 的本地替代。
macOS / iOS 文档问答应用,上传文件后可提问和生成摘要,AI 处理全部在本地设备完成。
通过 USB-C 连接 iPhone 与 Mac,借助手机 GPU 协同本地运行 Qwen 27B 模型,加快提示词读取并扩展上下文。
基于 PyTorch 的计算机视觉工具库,支持目标检测、实例分割和图像分类的训练与模型导出。
Hugging Face 推出的优化工具包,用于在不同硬件上加速 Transformers 等模型的推理与训练。