Набор инструментов на Python для Retrieval-Augmented Generation: хранение и поиск документов в DuckDB или PostgreSQL.
RAGLite — набор инструментов на Python для построения пайплайнов Retrieval-Augmented Generation. Он преобразует PDF и другие документы в Markdown, разбивает их на фрагменты, создаёт эмбеддинги и сохраняет всё в DuckDB или PostgreSQL. Затем можно находить релевантные фрагменты и передавать их LLM для ответов на вопросы.
Поиск объединяет встроенный в базы данных поиск по ключевым словам и векторный поиск (FTS с VSS в DuckDB, tsvector с pgvector в PostgreSQL); результаты можно пересортировать с помощью настраиваемого reranker. Доступ к LLM и моделям для создания эмбеддингов осуществляется через LiteLLM, в том числе к локальным моделям llama.cpp через llama-cpp-python. При этом проект обходится без тяжёлых зависимостей вроде PyTorch и LangChain.
Помимо базового поиска, RAGLite предлагает опциональный адаптер запросов, рассчитанный на данных для оценки, фильтрацию по метаданным, встроенный MCP-сервер для таких клиентов, как Claude desktop, и чат-интерфейс на базе Chainlit. Оценивать поиск и генерацию с помощью Ragas можно, установив дополнительную зависимость.
Установите RAGLite из PyPI
pip install ragliteНастройте RAGLite для работы с базой данных DuckDB или PostgreSQL и LLM в Python
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Локальный inference-сервер, который через OpenAI-совместимый API обслуживает модели эмбеддингов, reranking, OCR, извлечения данных, безопасности и LLM из одного кластера.
RAG-чат-приложение отвечает на вопросы на естественном языке о строках таблицы PostgreSQL с помощью поиска через pgvector и моделей OpenAI; приложение можно развернуть в Azure.
Опенсорсный RAG-движок, объединяющий генерацию с дополненной выборкой и возможности агентов, чтобы обеспечить контекстный слой для приложений на базе LLM.
Универсальный расширяемый RAG-фреймворк для LLM-приложений, отвечающих на вопросы по вашим данным; включает React-интерфейс и сервер на Python.
Самостоятельно размещаемая база знаний на Rust, которая строит бивременной граф знаний по документам, поддерживает RAG-поиск, рассуждения на основе онтологий и доступ для агентов через MCP.
Эталонная реализация RAG-Fusion на Python: переписывание запросов с помощью LLM, поиск BM25 и векторный поиск, Reciprocal Rank Fusion и инструментарий для оценки на NFCorpus.