Repolode
apple

apple/coreai-models

苹果推出的端侧 AI 工具集,包含模型导出方案、PyTorch 构建模块和 Swift 运行时工具,基于 Core AI 在 macOS 与 iOS 上运行模型。

Star
2,286
Fork
253
未关闭 Issue
45
最近提交
15小时前

这是什么?

Core AI Models 是一套用于在苹果设备上通过 Core AI 框架运行 AI 模型的工具集。它提供导出方案,可将 Hugging Face 等来源的常见开源模型转换为 Core AI 格式,生成独立的 .aimodel 文件。对于需要多个文件的模型,例如需要分词器的语言模型,或由多个模型串联的扩散管线,导出方案会生成资源文件夹,并由配套的 Swift 包加载。

仓库分为四部分:带有各模型导出方案的模型目录、用于在 PyTorch 中编写自定义 Core AI 模型的 Python 构建模块、名为 coreai-models 的 Swift 包(提供 macOS 与 iOS 应用的运行时工具),以及帮助编程助手使用 Core AI 的 agent skills。仓库还包含可直接在 Mac 上运行已导出模型的命令行工具。

项目面向 macOS 和 iOS 27.0 及以上版本,需要 Xcode 27.0 或更高版本。

核心功能

  • 01将 Hugging Face 等来源的常见开源模型导出为 Core AI 的 .aimodel 格式。
  • 02提供 Python 构建模块,用于在 PyTorch 中编写端侧执行的自定义模型。
  • 03提供 Swift 包,用于在 macOS 和 iOS 应用中集成模型运行时。
  • 04包含命令行工具,可直接在 Mac 上运行已导出的模型。
  • 05为 Claude Code、Codex CLI 和 Gemini CLI 提供 agent skills。

适用场景

  • 将开源语言模型或扩散模型集成到基于 Apple 芯片的 iOS 或 macOS 应用中。
  • 编写自定义 PyTorch 模型并导出,用于端侧推理。
  • 使用 coreai-opt 对模型权重进行量化或调色板化,以减小模型体积。
  • 让编程助手协助将 PyTorch 模型部署到 Core AI。

快速上手

  1. 1

    通过 Homebrew 安装 uv

    brew install uv
  2. 2

    克隆代码仓库

    git clone https://github.com/apple/coreai-models.git && cd coreai-models
  3. 3

    从注册表列出支持的模型

    uv run coreai.model.registry --list-models

使用前须知

  • 需要 macOS 和 iOS 27.0 及以上版本以及 Xcode 27.0 及以上版本,仅限苹果平台。
  • 依赖苹果较新的 Core AI 框架和操作系统版本。

收录于专题

标签

常见问题

coreai-models 是什么?
苹果推出的端侧 AI 工具集,包含模型导出方案、PyTorch 构建模块和 Swift 运行时工具,基于 Core AI 在 macOS 与 iOS 上运行模型。 Core AI Models 是一套用于在苹果设备上通过 Core AI 框架运行 AI 模型的工具集。它提供导出方案,可将 Hugging Face 等来源的常见开源模型转换为 Core AI 格式,生成独立的 .aimodel 文件。对于需要多个文件的模型,例如需要分词器的语言模型,或由多个模型串联的扩散管线,导出方案会生成资源文件夹,并由配套的 Swift 包加载。
coreai-models 可以免费使用吗?用的什么许可证?
coreai-models 以 BSD-3-Clause 许可证开源。用于商业产品前,请先确认许可证条款。
coreai-models 还在维护吗?
活跃维护中。coreai-models 最近一次提交是在 2026年11月6日。
coreai-models 适合用来做什么?
将开源语言模型或扩散模型集成到基于 Apple 芯片的 iOS 或 macOS 应用中。 编写自定义 PyTorch 模型并导出,用于端侧推理。 使用 coreai-opt 对模型权重进行量化或调色板化,以减小模型体积。 让编程助手协助将 PyTorch 模型部署到 Core AI。
coreai-models 怎么安装和运行?
通过 Homebrew 安装 uv: brew install uv 克隆代码仓库: git clone https://github.com/apple/coreai-models.git && cd coreai-models 从注册表列出支持的模型: uv run coreai.model.registry --list-models
在哪里获取 coreai-models?
源代码和安装说明在 GitHub 上:https://github.com/apple/coreai-models

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目