基于 Svelte 与 FastAPI 的聊天工具,可用在线或本地大模型对 GitHub 仓库或上传的源码目录提问。
apocas/restai
开源 AIaaS 平台,可构建 RAG、智能体和可视化逻辑等 AI 项目,并通过 REST API 对外提供服务。
- Star
- 517
- Fork
- 113
- 未关闭 Issue
- 39
- 最近提交
- 前天
这是什么?
RESTai 是一个可自托管的 AIaaS(AI 即服务)平台。用户可以创建 RAG、智能体、Block 或推理等不同类型的 AI 项目,每个项目可单独配置大模型、系统提示词、工具和参数,再通过 REST API 或内置的 React 管理后台调用。模型接入覆盖 OpenAI、Anthropic、Ollama、Gemini、Azure、AWS Bedrock、vLLM 等,也支持 OpenAI 兼容接口。
平台还面向团队的日常运营提供配套能力,包括 token、成本和延迟统计,提示词版本管理与回滚,基于 DeepEval 指标的评测,用于输入输出检查的守护栏项目,按项目限流,审计日志,团队级权限以及白标定制。登录方式支持 OAuth、LDAP、TOTP 两步验证和 API Key。
RAG 项目可导入文档,并能从网页 URL、S3、Confluence、SharePoint 和 Google Drive 定时同步知识。此外还提供面向 Claude Desktop 等客户端的 MCP 服务、Telegram、Slack 和 WhatsApp 接入、可嵌入网页的聊天组件以及 WordPress 插件。安装方式包括 PyPI、Docker 和基于 Helm 的 Kubernetes 部署。
核心功能
- 01可创建 RAG、智能体、Block 和推理四类项目,各自配置独立的大模型
- 02支持多家大模型提供商,包括通过 Ollama 和 vLLM 接入的本地模型
- 03内置 token、成本和延迟统计仪表盘
- 04提示词版本管理,可查看历史并一键回滚,并支持评测运行
- 05提供 MCP 服务和基于 Blockly 的可视化逻辑编排
- 06提供兼容 OpenAI 的对话、图像生成和语音转写接口
适用场景
- 基于 S3 或 Confluence 定时同步文档,搭建企业内部问答机器人
- 为团队提供统一的多模型入口,并按团队统计用量与成本
- 在网站上嵌入聊天组件,或接入 Telegram、Slack、WhatsApp
- 将本地开源模型通过兼容 OpenAI 的接口提供给已有 SDK 代码使用
快速上手
- 1
从 PyPI 安装
pip install restai-core - 2
创建数据库和管理员用户
restai init - 3
运行数据库迁移
restai migrate - 4
启动服务器,然后打开 http://localhost:9000/admin(admin / admin)
restai serve
使用前须知
- 默认管理员账号为 admin / admin,必须修改。
- 功能范围很广、依赖较重,自托管需要一定的配置工作。
收录于专题
标签
常见问题
- restai 是什么?
- 开源 AIaaS 平台,可构建 RAG、智能体和可视化逻辑等 AI 项目,并通过 REST API 对外提供服务。 RESTai 是一个可自托管的 AIaaS(AI 即服务)平台。用户可以创建 RAG、智能体、Block 或推理等不同类型的 AI 项目,每个项目可单独配置大模型、系统提示词、工具和参数,再通过 REST API 或内置的 React 管理后台调用。模型接入覆盖 OpenAI、Anthropic、Ollama、Gemini、Azure、AWS Bedrock、vLLM 等,也支持 OpenAI 兼容接口。
- restai 可以免费使用吗?用的什么许可证?
- restai 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- restai 还在维护吗?
- 活跃维护中。restai 最近一次提交是在 2026年11月5日。
- restai 适合用来做什么?
- 基于 S3 或 Confluence 定时同步文档,搭建企业内部问答机器人 为团队提供统一的多模型入口,并按团队统计用量与成本 在网站上嵌入聊天组件,或接入 Telegram、Slack、WhatsApp 将本地开源模型通过兼容 OpenAI 的接口提供给已有 SDK 代码使用
- restai 怎么安装和运行?
- 从 PyPI 安装: pip install restai-core 创建数据库和管理员用户: restai init 运行数据库迁移: restai migrate 启动服务器,然后打开 http://localhost:9000/admin(admin / admin): restai serve
- 在哪里获取 restai?
- 源代码和安装说明在 GitHub 上:https://github.com/apocas/restai
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
离线 RAG 应用,可导入本地文件、GitHub 仓库和网站,并用本地 Ollama 模型回答问题,数据不离开本地网络。
可自托管的智能体平台,可为智能体绑定工具、MCP、Skill 与知识库进行对话。
基于 FastAPI 的对话式 RAG 后端,将文档写入 Qdrant 向量库,支持语义与混合检索并调用大模型问答。
Rust 版 LangChain,用可组合的链、智能体、工具和向量存储构建大模型应用。
自托管推理服务器,通过兼容 OpenAI 的 API 在一个集群中提供嵌入、重排序、OCR、抽取和大模型等多种模型。