Repolode
schmitech

schmitech/orbit

可自托管的 AI 网关,通过统一的 OpenAI 兼容 API 连接本地或云端模型与私有数据、工具。

可替代:LiteLLMOpen WebUI

Star
360
Fork
59
未关闭 Issue
0
最近提交
3天前

这是什么?

ORBIT 是一个可自托管的网关,位于应用与大语言模型之间。它在本地模型(如 Ollama)和云端服务商前面提供统一的 OpenAI 兼容 API,并支持对自有数据做检索增强生成。通过 YAML 配置的适配器,可以把文件、SQL 与 NoSQL 数据库、向量库以及外部 API 接入同一个端点。

除了 RAG,ORBIT 还支持工具调用型智能体:可接入 MCP 工具,把请求路由到专门的技能,并通过 A2A 或异步消息协调多个智能体。项目还涵盖文档与图片问答、语音交互,以及用于路由、分诊和内容审核的结构化决策。管理后台提供 API 密钥、用户、配额、审计日志和成本估算等功能。

ORBIT 使用 Python 编写,采用 Apache 2.0 许可,可部署在本地机房或私有云,也可以在完全离线、使用本地模型的环境中运行。

核心功能

  • 01通过统一的 OpenAI 兼容 API 访问本地和云端模型
  • 02用 YAML 配置适配器,接入文件、SQL、NoSQL、向量库和外部 API
  • 03支持混合检索与重排序,基于自有数据回答问题
  • 04支持 MCP 工具调用与技能路由
  • 05智能体之间可通过 A2A 或异步消息协作
  • 06管理后台提供 SSO、基于角色的权限、PII 检测和审计日志

适用场景

  • 在不把数据发送给第三方服务的前提下与内部文档对话
  • 让聊天机器人用自然语言查询 SQL 数据库
  • 在离线环境中用本地模型运行 AI 助手
  • 为团队提供一个带配额控制和用量统计的共享大模型端点

快速上手

  1. 1

    拉取 Ollama 版本镜像(无需 API 密钥)

    docker pull schmitech/orbit-ollama:latest
  2. 2

    启动 ORBIT 容器

    docker run -d --name orbit -p 127.0.0.1:5173:5173 -p 127.0.0.1:3000:3000 -v orbit-data:/orbit/data -v orbit-models:/orbit/models schmitech/orbit-ollama:latest
  3. 3

    启动完成后在 http://localhost:5173 打开 OrbitChat

使用前须知

  • 默认 Docker 版本内置 Ollama,本地模型需要足够的硬件资源才能运行。
  • 管理员密码在首次启动时生成,需要从容器日志中查看。

收录于专题

标签

常见问题

orbit 是什么?
可自托管的 AI 网关,通过统一的 OpenAI 兼容 API 连接本地或云端模型与私有数据、工具。 ORBIT 是一个可自托管的网关,位于应用与大语言模型之间。它在本地模型(如 Ollama)和云端服务商前面提供统一的 OpenAI 兼容 API,并支持对自有数据做检索增强生成。通过 YAML 配置的适配器,可以把文件、SQL 与 NoSQL 数据库、向量库以及外部 API 接入同一个端点。
orbit 可以免费使用吗?用的什么许可证?
orbit 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
orbit 还在维护吗?
活跃维护中。orbit 最近一次提交是在 2026年11月4日。
orbit 适合用来做什么?
在不把数据发送给第三方服务的前提下与内部文档对话 让聊天机器人用自然语言查询 SQL 数据库 在离线环境中用本地模型运行 AI 助手 为团队提供一个带配额控制和用量统计的共享大模型端点
orbit 怎么安装和运行?
拉取 Ollama 版本镜像(无需 API 密钥): docker pull schmitech/orbit-ollama:latest 启动 ORBIT 容器: docker run -d --name orbit -p 127.0.0.1:5173:5173 -p 127.0.0.1:3000:3000 -v orbit-data:/orbit/data -v orbit-models:/orbit/models schmitech/orbit-ollama:latest 启动完成后在 http://localhost:5173 打开 OrbitChat
在哪里获取 orbit?
源代码和安装说明在 GitHub 上:https://github.com/schmitech/orbit

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目