incoai/splash

这是什么？

核心功能

• 01提供兼容 OpenAI 和 Anthropic 的 API，支持流式输出与工具调用。
• 02采用 DFlash 2 推测解码，并为各模型编写 Metal 内核。
• 03自动规划显存，跨请求复用缓存前缀并批处理并发请求。
• 04支持图像与 PDF 输入，以及 JSON Schema 结构化输出。
• 05内置聊天页面，并可直接启动 opencode、Claude、Codex 等编码智能体。

适用场景

• 在自己的 Mac 上用本地模型驱动 opencode、Claude 等编码智能体。
• 在不产生云端 API 费用的前提下，基于兼容 OpenAI 或 Anthropic 的接口开发应用。
• 让提示词和代码留在本地设备上，而不发送到托管服务。

快速上手

1. 1

   使用 Homebrew 安装 Splash

   brew install incoai/tap/splash
2. 2

   启动服务器并下载模型

   splash serve --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M
3. 3

   看到 Ready 提示后，在浏览器中打开 http://127.0.0.1:8000

使用前须知

• !需要搭载 M3 或更新芯片的 Apple silicon Mac，并且系统为 macOS 26.4 或更高版本。
• !4-bit 示例至少需要 36 GB 统一内存，内存较小的 Mac 需要使用更小的 GGUF 变体。
• !仅支持有限的模型系列，且不支持全 BF16 和 F16 模型。

标签

常见问题

splash 是什么？

面向 Apple silicon Mac 的本地大模型推理引擎，兼容 OpenAI 与 Anthropic 接口，可直接运行编码智能体。 Splash 是一款面向 Apple silicon Mac 的本地大模型推理引擎，在单台机器上运行模型，并提供兼容 OpenAI Chat Completions、Responses、Completions 以及 Anthropic Messages 的接口。现有的编码智能体和应用只需把地址指向 localhost，即可替代云端服务。

splash 可以免费使用吗？用的什么许可证？

splash 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

splash 还在维护吗？

活跃维护中。splash 最近一次提交是在 2026年10月20日。

splash 适合用来做什么？

在自己的 Mac 上用本地模型驱动 opencode、Claude 等编码智能体。 在不产生云端 API 费用的前提下，基于兼容 OpenAI 或 Anthropic 的接口开发应用。 让提示词和代码留在本地设备上，而不发送到托管服务。

splash 怎么安装和运行？

使用 Homebrew 安装 Splash: brew install incoai/tap/splash 启动服务器并下载模型: splash serve --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M 看到 Ready 提示后，在浏览器中打开 http://127.0.0.1:8000

在哪里获取 splash？

源代码和安装说明在 GitHub 上：https://github.com/incoai/splash