Repolode
apocas

apocas/restai

开源 AIaaS 平台,可构建 RAG、智能体和可视化逻辑等 AI 项目,并通过 REST API 对外提供服务。

Star
517
Fork
113
未关闭 Issue
39
最近提交
前天

这是什么?

RESTai 是一个可自托管的 AIaaS(AI 即服务)平台。用户可以创建 RAG、智能体、Block 或推理等不同类型的 AI 项目,每个项目可单独配置大模型、系统提示词、工具和参数,再通过 REST API 或内置的 React 管理后台调用。模型接入覆盖 OpenAI、Anthropic、Ollama、Gemini、Azure、AWS Bedrock、vLLM 等,也支持 OpenAI 兼容接口。

平台还面向团队的日常运营提供配套能力,包括 token、成本和延迟统计,提示词版本管理与回滚,基于 DeepEval 指标的评测,用于输入输出检查的守护栏项目,按项目限流,审计日志,团队级权限以及白标定制。登录方式支持 OAuth、LDAP、TOTP 两步验证和 API Key。

RAG 项目可导入文档,并能从网页 URL、S3、Confluence、SharePoint 和 Google Drive 定时同步知识。此外还提供面向 Claude Desktop 等客户端的 MCP 服务、Telegram、Slack 和 WhatsApp 接入、可嵌入网页的聊天组件以及 WordPress 插件。安装方式包括 PyPI、Docker 和基于 Helm 的 Kubernetes 部署。

核心功能

  • 01可创建 RAG、智能体、Block 和推理四类项目,各自配置独立的大模型
  • 02支持多家大模型提供商,包括通过 Ollama 和 vLLM 接入的本地模型
  • 03内置 token、成本和延迟统计仪表盘
  • 04提示词版本管理,可查看历史并一键回滚,并支持评测运行
  • 05提供 MCP 服务和基于 Blockly 的可视化逻辑编排
  • 06提供兼容 OpenAI 的对话、图像生成和语音转写接口

适用场景

  • 基于 S3 或 Confluence 定时同步文档,搭建企业内部问答机器人
  • 为团队提供统一的多模型入口,并按团队统计用量与成本
  • 在网站上嵌入聊天组件,或接入 Telegram、Slack、WhatsApp
  • 将本地开源模型通过兼容 OpenAI 的接口提供给已有 SDK 代码使用

快速上手

  1. 1

    从 PyPI 安装

    pip install restai-core
  2. 2

    创建数据库和管理员用户

    restai init
  3. 3

    运行数据库迁移

    restai migrate
  4. 4

    启动服务器,然后打开 http://localhost:9000/admin(admin / admin)

    restai serve

使用前须知

  • 默认管理员账号为 admin / admin,必须修改。
  • 功能范围很广、依赖较重,自托管需要一定的配置工作。

收录于专题

标签

常见问题

restai 是什么?
开源 AIaaS 平台,可构建 RAG、智能体和可视化逻辑等 AI 项目,并通过 REST API 对外提供服务。 RESTai 是一个可自托管的 AIaaS(AI 即服务)平台。用户可以创建 RAG、智能体、Block 或推理等不同类型的 AI 项目,每个项目可单独配置大模型、系统提示词、工具和参数,再通过 REST API 或内置的 React 管理后台调用。模型接入覆盖 OpenAI、Anthropic、Ollama、Gemini、Azure、AWS Bedrock、vLLM 等,也支持 OpenAI 兼容接口。
restai 可以免费使用吗?用的什么许可证?
restai 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
restai 还在维护吗?
活跃维护中。restai 最近一次提交是在 2026年11月5日。
restai 适合用来做什么?
基于 S3 或 Confluence 定时同步文档,搭建企业内部问答机器人 为团队提供统一的多模型入口,并按团队统计用量与成本 在网站上嵌入聊天组件,或接入 Telegram、Slack、WhatsApp 将本地开源模型通过兼容 OpenAI 的接口提供给已有 SDK 代码使用
restai 怎么安装和运行?
从 PyPI 安装: pip install restai-core 创建数据库和管理员用户: restai init 运行数据库迁移: restai migrate 启动服务器,然后打开 http://localhost:9000/admin(admin / admin): restai serve
在哪里获取 restai?
源代码和安装说明在 GitHub 上:https://github.com/apocas/restai

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目