开源的智能体 API 服务器,提供 OpenAI 兼容接口,可对接任意模型与基础设施。
- Star
- 360
- Fork
- 59
- 未关闭 Issue
- 0
- 最近提交
- 3天前
这是什么?
ORBIT 是一个可自托管的网关,位于应用与大语言模型之间。它在本地模型(如 Ollama)和云端服务商前面提供统一的 OpenAI 兼容 API,并支持对自有数据做检索增强生成。通过 YAML 配置的适配器,可以把文件、SQL 与 NoSQL 数据库、向量库以及外部 API 接入同一个端点。
除了 RAG,ORBIT 还支持工具调用型智能体:可接入 MCP 工具,把请求路由到专门的技能,并通过 A2A 或异步消息协调多个智能体。项目还涵盖文档与图片问答、语音交互,以及用于路由、分诊和内容审核的结构化决策。管理后台提供 API 密钥、用户、配额、审计日志和成本估算等功能。
ORBIT 使用 Python 编写,采用 Apache 2.0 许可,可部署在本地机房或私有云,也可以在完全离线、使用本地模型的环境中运行。
核心功能
- 01通过统一的 OpenAI 兼容 API 访问本地和云端模型
- 02用 YAML 配置适配器,接入文件、SQL、NoSQL、向量库和外部 API
- 03支持混合检索与重排序,基于自有数据回答问题
- 04支持 MCP 工具调用与技能路由
- 05智能体之间可通过 A2A 或异步消息协作
- 06管理后台提供 SSO、基于角色的权限、PII 检测和审计日志
适用场景
- 在不把数据发送给第三方服务的前提下与内部文档对话
- 让聊天机器人用自然语言查询 SQL 数据库
- 在离线环境中用本地模型运行 AI 助手
- 为团队提供一个带配额控制和用量统计的共享大模型端点
快速上手
- 1
拉取 Ollama 版本镜像(无需 API 密钥)
docker pull schmitech/orbit-ollama:latest - 2
启动 ORBIT 容器
docker run -d --name orbit -p 127.0.0.1:5173:5173 -p 127.0.0.1:3000:3000 -v orbit-data:/orbit/data -v orbit-models:/orbit/models schmitech/orbit-ollama:latest - 3
启动完成后在 http://localhost:5173 打开 OrbitChat
使用前须知
- 默认 Docker 版本内置 Ollama,本地模型需要足够的硬件资源才能运行。
- 管理员密码在首次启动时生成,需要从容器日志中查看。
收录于专题
标签
常见问题
- orbit 是什么?
- 可自托管的 AI 网关,通过统一的 OpenAI 兼容 API 连接本地或云端模型与私有数据、工具。 ORBIT 是一个可自托管的网关,位于应用与大语言模型之间。它在本地模型(如 Ollama)和云端服务商前面提供统一的 OpenAI 兼容 API,并支持对自有数据做检索增强生成。通过 YAML 配置的适配器,可以把文件、SQL 与 NoSQL 数据库、向量库以及外部 API 接入同一个端点。
- orbit 可以免费使用吗?用的什么许可证?
- orbit 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- orbit 还在维护吗?
- 活跃维护中。orbit 最近一次提交是在 2026年11月4日。
- orbit 适合用来做什么?
- 在不把数据发送给第三方服务的前提下与内部文档对话 让聊天机器人用自然语言查询 SQL 数据库 在离线环境中用本地模型运行 AI 助手 为团队提供一个带配额控制和用量统计的共享大模型端点
- orbit 怎么安装和运行?
- 拉取 Ollama 版本镜像(无需 API 密钥): docker pull schmitech/orbit-ollama:latest 启动 ORBIT 容器: docker run -d --name orbit -p 127.0.0.1:5173:5173 -p 127.0.0.1:3000:3000 -v orbit-data:/orbit/data -v orbit-models:/orbit/models schmitech/orbit-ollama:latest 启动完成后在 http://localhost:5173 打开 OrbitChat
- 在哪里获取 orbit?
- 源代码和安装说明在 GitHub 上:https://github.com/schmitech/orbit
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
8454+11 本周1394PythonMIT更新于 19小时前
一个实验性的 Go 平台,用一组 AI 助手协作完成长周期的工作流自动化。
50331GoMIT更新于 16天前
一款本地运行的桌面 AI 工作台,支持 macOS、Windows 和 Linux,内置兼容 OpenAI 的本地网关,无需账号或云端。
144+5 本周27TypeScriptAGPL-3.0更新于 22小时前
用 Go 编写的开源 LLM 网关,通过统一的 OpenAI 兼容接口路由 30 家模型服务商的请求。
279+6 本周40GoApache-2.0维护活跃更新于 5天前
用 Go 编写的自托管 AI 网关,以 OpenAI/Anthropic 兼容接口统一对接多家大模型服务。
1305+12 本周125GoMIT更新于 19小时前
可自托管的 OpenAI 兼容 LLM 网关,通过单一端点接入 40 多家模型服务商,并提供虚拟密钥、预算与用量统计。
856+83 本周113PythonApache-2.0更新于 17小时前