finic-ai/rag-stack

Что это?

Ключевые возможности

• 01Разворачивает приватный чат-интерфейс на собственной инфраструктуре для работы с вашими документами.
• 02Использует Qdrant — векторную базу данных с открытым исходным кодом, написанную на Rust, — для поиска.
• 03Поддерживает GPT4All для локального инференса на CPU, а также Falcon-7B или Llama 2 на GPU.
• 04Включает сервер и веб-интерфейс с возможностью загружать PDF.
• 05Предоставляет скрипты развёртывания на Terraform для GCP, AWS и Azure.

Сценарии использования

• Создание внутреннего помощника для ответов на вопросы по PDF-файлам компании и договорам.
• Локальное тестирование RAG-чата без отправки данных в размещённые в облаке API.
• Прототипирование развёртывания RAG в облачном GPU-кластере перед выбором архитектуры для production.

Быстрый старт

1. 1

   Скопируйте примеры env-файлов и добавьте URL и ключи проекта Supabase

2. 2

   В Supabase создайте таблицу ragstack_users со столбцами, перечисленными в README

3. 3

   Запустите локальный скрипт разработки, чтобы запустить сервер, LLM и Qdrant

   scripts/local/run-dev

Что важно знать

• !Согласно README, этот устаревший проект больше не поддерживается.
• !Для локальной настройки нужны проект Supabase и ручная конфигурация таблицы.
• !Для развертывания Falcon-7B в облаке нужны кластеры с GPU и облачные аккаунты.

В подборках

Темы

Частые вопросы

Что такое rag-stack?

Самостоятельно разворачиваемый RAG-стек для приватного помощника в стиле ChatGPT на основе ваших PDF и документов, open-source LLM и Qdrant. RAGstack — стек для развёртывания retrieval-augmented generation внутри собственной инфраструктуры, который служит приватной альтернативой размещённым в облаке инструментам в стиле ChatGPT. Он объединяет open-source LLM, векторную базу данных Qdrant и сервер с простым веб-интерфейсом для загрузки PDF, чтобы ответы опирались на документы вашей организации.

rag-stack можно использовать бесплатно? Какая у него лицензия?

rag-stack распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.

rag-stack всё ещё поддерживается?

Активно поддерживается. Последний коммит в rag-stack — 12 окт. 2026 г..

Для чего можно использовать rag-stack?

Создание внутреннего помощника для ответов на вопросы по PDF-файлам компании и договорам. Локальное тестирование RAG-чата без отправки данных в размещённые в облаке API. Прототипирование развёртывания RAG в облачном GPU-кластере перед выбором архитектуры для production.

Как установить rag-stack?

Скопируйте примеры env-файлов и добавьте URL и ключи проекта Supabase В Supabase создайте таблицу ragstack_users со столбцами, перечисленными в README Запустите локальный скрипт разработки, чтобы запустить сервер, LLM и Qdrant: scripts/local/run-dev

Где скачать rag-stack?

Исходный код и инструкции по установке — на GitHub: https://github.com/finic-ai/rag-stack