Repolode
Предложить
apocas

apocas/restai

Open-source платформа AIaaS для создания RAG-проектов, AI-агентов и визуальных сценариев и предоставления к ним доступа через REST API и встроенный веб-интерфейс.

Открыть на GitHubСайт
Звёзды
517
Форки
112
Открытые issues
39
Последний коммит
20 часов назад

Что это?

RESTai — self-hosted платформа AI-as-a-Service. В ней можно создавать AI-проекты разных типов (RAG, agent, block или inference) с собственными LLM, системным промптом, инструментами и настройками, а затем обращаться к ним через REST API или встроенную панель управления на React. Поддерживается множество провайдеров моделей, включая OpenAI, Anthropic, Ollama, Gemini, Azure, AWS Bedrock и vLLM, а также совместимые с OpenAI эндпоинты.

Платформа помогает командам решать операционные задачи при запуске AI-функций. В неё входят аналитика использования токенов, затрат и задержек, версионирование промптов с возможностью восстановления, запуски оценивания по метрикам DeepEval, проекты с guardrail-проверками входных и выходных данных, ограничение частоты запросов для каждого проекта, журнал аудита, ролевые права на уровне команды и брендирование под собственной маркой. Для аутентификации доступны OAuth/LDAP, двухфакторный вход по TOTP и API-ключи.

В RAG-проекты можно загружать документы и настраивать синхронизацию знаний из веб-URL, S3, Confluence, SharePoint и Google Drive. Среди других возможностей — MCP-сервер для клиентов вроде Claude Desktop, интеграции с Telegram, Slack и WhatsApp, встраиваемый чат-виджет, плагин для WordPress, а также инструменты для работы с изображениями, аудио и классификацией. Платформу можно установить из PyPI, запустить в Docker или развернуть в Kubernetes с помощью Helm chart.

Ключевые возможности

  • 01Создание RAG-, agent-, block- и inference-проектов с собственными LLM и настройками
  • 02Подключение множества провайдеров LLM, включая локальные модели через Ollama и vLLM
  • 03Встроенная аналитика использования токенов, затрат и задержек с панелью управления на React
  • 04Версионирование промптов с историей изменений и восстановлением в один клик, а также запуски оценивания
  • 05Поддержка MCP-сервера и визуальный конструктор логики на основе Blockly
  • 06Совместимые с OpenAI эндпоинты для чата, генерации изображений и транскрибации аудио

Сценарии использования

  • Размещение внутреннего бота для ответов на вопросы по корпоративным документам с плановой синхронизацией из S3 или Confluence
  • Предоставление команде общего доступа с разграничением прав к нескольким провайдерам LLM и отслеживанием использования и затрат
  • Встраивание чат-бота поддержки на сайт или подключение его к Telegram, Slack или WhatsApp
  • Запуск локальных open-source моделей за OpenAI-совместимым API для уже существующего кода на SDK

Быстрый старт

  1. 1

    Установить из PyPI

    pip install restai-core
  2. 2

    Создать базу данных и пользователя-администратора

    restai init
  3. 3

    Выполнить миграции базы данных

    restai migrate
  4. 4

    Запустить сервер, затем открыть http://localhost:9000/admin (admin / admin)

    restai serve

Что важно знать

  • Учетные данные администратора по умолчанию — admin / admin; их необходимо изменить.
  • Набор функций большой и ресурсоемкий, поэтому для самостоятельного размещения потребуется немало усилий по настройке.

В подборках

Частные базы знаний с ИИ и RAGOpen source фреймворки и приложения для ИИ-агентовСамостоятельно размещаемые приложенияЗапуск LLM локально

Темы

#llm#rag#ai-agent#openai-compatible#ollama#fastapi#self-hosted#embeddings#blocky#langchain

Частые вопросы

Что такое restai?
Open-source платформа AIaaS для создания RAG-проектов, AI-агентов и визуальных сценариев и предоставления к ним доступа через REST API и встроенный веб-интерфейс. RESTai — self-hosted платформа AI-as-a-Service. В ней можно создавать AI-проекты разных типов (RAG, agent, block или inference) с собственными LLM, системным промптом, инструментами и настройками, а затем обращаться к ним через REST API или встроенную панель управления на React. Поддерживается множество провайдеров моделей, включая OpenAI, Anthropic, Ollama, Gemini, Azure, AWS Bedrock и vLLM, а также совместимые с OpenAI эндпоинты.
restai можно использовать бесплатно? Какая у него лицензия?
restai распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
restai всё ещё поддерживается?
Активно поддерживается. Последний коммит в restai — 7 нояб. 2026 г..
Для чего можно использовать restai?
Размещение внутреннего бота для ответов на вопросы по корпоративным документам с плановой синхронизацией из S3 или Confluence Предоставление команде общего доступа с разграничением прав к нескольким провайдерам LLM и отслеживанием использования и затрат Встраивание чат-бота поддержки на сайт или подключение его к Telegram, Slack или WhatsApp Запуск локальных open-source моделей за OpenAI-совместимым API для уже существующего кода на SDK
Как установить restai?
Установить из PyPI: pip install restai-core Создать базу данных и пользователя-администратора: restai init Выполнить миграции базы данных: restai migrate Запустить сервер, затем открыть http://localhost:9000/admin (admin / admin): restai serve
Где скачать restai?
Исходный код и инструкции по установке — на GitHub: https://github.com/apocas/restai

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

jonfairbanks / local-rag

Офлайн-приложение RAG индексирует локальные файлы, репозитории GitHub и сайты и отвечает на вопросы с помощью локальных моделей Ollama, не передавая данные за пределы вашей сети.

ИИ и машинное обучение#rag#llm#ollama
76595PythonGPL-3.0Активно поддерживаетсяОбновлён 5 дней назад

superlinked / sie

Локальный inference-сервер, который через OpenAI-совместимый API обслуживает модели эмбеддингов, reranking, OCR, извлечения данных, безопасности и LLM из одного кластера.

ИИ и машинное обучение#inference-server#embeddings#llm
3,5 тыс.+19 за неделю333PythonApache-2.0Активно поддерживаетсяОбновлён 3 часа назад