neuml/txtai

Что это?

Ключевые возможности

• 01Векторный поиск, объединяющий плотные и разреженные индексы с SQL, анализом графов и тематическим моделированием
• 02Эмбеддинги для текста, документов, аудио, изображений и видео
• 03Конвейеры для промптов LLM, ответов на вопросы, суммаризации, транскрибации и перевода
• 04Рабочие процессы, объединяющие конвейеры в микросервисы или приложения с несколькими моделями
• 05Агенты на базе smolagents, работающие с моделями Hugging Face, llama.cpp и моделями, поддерживаемыми LiteLLM
• 06Веб-API и сервер Model Context Protocol (MCP), а также биндинги для JavaScript, Java, Rust и Go

Сценарии использования

• Создание семантического поиска по документам, изображениям или базам данных вопросов и ответов
• Реализация генерации с дополнением поиском, чтобы общаться со своими данными
• Создание автономных агентов, использующих эмбеддинги и конвейеры как инструменты
• Объединение моделей суммаризации, транскрибации и перевода в единый рабочий процесс

Быстрый старт

1. 1

   Установите txtai с помощью pip (см. руководство по установке, ссылка на которое есть в README).

2. 2

   Создайте файл конфигурации app.yml, указав путь к embeddings, например sentence-transformers/all-MiniLM-L6-v2.

3. 3

   Запустите сервер API txtai с этим файлом конфигурации.

   CONFIG=app.yml uvicorn "txtai.api:app"

Что важно знать

• !Требуется Python 3.11 или новее.
• !В основе лежат ресурсоёмкие зависимости для машинного обучения, такие как Hugging Face Transformers и Sentence Transformers.

В подборках

Темы

Частые вопросы

Что такое txtai?

Универсальный AI-фреймворк на Python для семантического поиска, RAG, оркестрации LLM и рабочих процессов с языковыми моделями на базе векторной БД эмбеддингов. txtai — фреймворк на Python на базе БД эмбеддингов, который объединяет векторные индексы (разреженные и плотные), графовые сети и реляционные базы данных. Его используют для семантического поиска и как источник знаний для приложений на основе больших языковых моделей, например для генерации с дополнением поиском (RAG) и автономных агентов.

txtai можно использовать бесплатно? Какая у него лицензия?

txtai распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

txtai всё ещё поддерживается?

Активно поддерживается. Последний коммит в txtai — 5 нояб. 2026 г..

Для чего можно использовать txtai?

Создание семантического поиска по документам, изображениям или базам данных вопросов и ответов Реализация генерации с дополнением поиском, чтобы общаться со своими данными Создание автономных агентов, использующих эмбеддинги и конвейеры как инструменты Объединение моделей суммаризации, транскрибации и перевода в единый рабочий процесс

Как установить txtai?

Установите txtai с помощью pip (см. руководство по установке, ссылка на которое есть в README). Создайте файл конфигурации app.yml, указав путь к embeddings, например sentence-transformers/all-MiniLM-L6-v2. Запустите сервер API txtai с этим файлом конфигурации.: CONFIG=app.yml uvicorn "txtai.api:app"

Где скачать txtai?

Исходный код и инструкции по установке — на GitHub: https://github.com/neuml/txtai