Generated-Computers/Locals

这是什么？

核心功能

• 01批处理解码，多个代理请求在 GPU 上共享同一轮计算。
• 02工具调用受工具 schema 约束，参数类型与定义保持一致。
• 03提示词与对话缓存可跨轮次和重启保留。
• 04兼容 OpenAI、Anthropic 和 Ollama 接口。
• 05一条命令即可启动 OpenCode、Aider、Cline、OpenHands、Claude Code 等工具。
• 06`locals run` 多代理模式，在隔离的项目副本中运行并用测试验证。

适用场景

• 在 Mac 上并行运行多个编程代理，代码无需发送到云端 API。
• 用 OpenCode 或 Aider 在本地项目上工作，模型运行在笔记本上。
• 为 Cline、Roo Code 等编辑器插件提供本地 OpenAI 兼容接口。
• 借助可缓存的长上下文，对大型代码库或长文档进行反复提问。

快速上手

1. 1

   运行 README 中的官方安装脚本

2. 2

   或使用 uv 从 PyPI 安装

   uv tool install --python 3.12 locals
3. 3

   在新的终端窗口中，在你的项目里打开 OpenCode

   locals code ~/my-project

使用前须知

• !仅支持搭载 Apple 芯片的 macOS。
• !Flint 模型需要至少 24 GB 内存，且其最新版本尚未发布到 PyPI。
• !M1、M3、M4 芯片尚未完成基准测试。

收录于专题

标签

常见问题

Locals 是什么？

面向 Apple silicon Mac 的本地推理服务器，可同时为多个 AI 编程代理提供快速、可靠的模型推理。 Locals 是一个运行在 Mac 上的本地模型服务器，专为 AI 代理设计，而不是普通的聊天场景。它针对工具调用、长对话和多个代理同时发出请求的情况做了优化，通过批处理 GPU 内核、按工具 schema 约束的工具调用输出，以及在多轮对话和重启之间保留的提示词缓存来处理这些负载。README 中在 16 GB 的 M2 Pro 上用 Qwen3.5-4B 测得，八个请求同时进行时吞吐量可达 mlx-lm 的约 3 倍。

Locals 可以免费使用吗？用的什么许可证？

Locals 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

Locals 还在维护吗？

活跃维护中。Locals 最近一次提交是在 2026年11月6日。

Locals 适合用来做什么？

在 Mac 上并行运行多个编程代理，代码无需发送到云端 API。 用 OpenCode 或 Aider 在本地项目上工作，模型运行在笔记本上。 为 Cline、Roo Code 等编辑器插件提供本地 OpenAI 兼容接口。 借助可缓存的长上下文，对大型代码库或长文档进行反复提问。

Locals 怎么安装和运行？

运行 README 中的官方安装脚本 或使用 uv 从 PyPI 安装: uv tool install --python 3.12 locals 在新的终端窗口中，在你的项目里打开 OpenCode: locals code ~/my-project

在哪里获取 Locals？

源代码和安装说明在 GitHub 上：https://github.com/Generated-Computers/Locals