Repolode
Предложить
Abraxas-365

Abraxas-365/langchain-rust

LangChain для Rust: библиотека для создания приложений на базе LLM с компонуемыми цепочками, агентами, инструментами и векторными хранилищами.

Открыть на GitHub
Звёзды
1,362
Форки
179
Открытые issues
10
Последний коммит
4 дня назад

Что это?

langchain-rust — порт фреймворка LangChain на Rust для создания приложений на базе больших языковых моделей. В библиотеке есть строительные блоки: цепочки LLM, диалоговые и последовательные цепочки, а также цепочки для ответов на вопросы и суммаризации. С их помощью разработчики могут объединять вызовы моделей, шаблоны промптов и этапы поиска в единый конвейер.

Библиотека поддерживает множество провайдеров моделей, включая OpenAI, Azure OpenAI, Ollama, Anthropic Claude, Mistral и AWS Bedrock для LLM и эмбеддингов, а также локальные эмбеддинги через FastEmbed. Для поиска доступны интеграции со многими векторными хранилищами, такими как Postgres, Qdrant, Pinecone, Weaviate, Milvus, Chroma, Redis и SQLite. Кроме того, библиотека включает загрузчики документов для PDF, HTML, CSV, источников, преобразованных в Markdown, и коммитов Git, а также парсеры выходных данных и память чата на базе SQLite, Postgres, Redis или MongoDB.

Поддержка агентов включает агентов с вызовом инструментов, агента ReAct для моделей без встроенного вызова инструментов, потоковую передачу событий агентов и встроенные инструменты, например калькулятор, веб-поиск и Wolfram. Установка выполняется через cargo, а дополнительные features позволяют подключать отдельные бэкенды векторных хранилищ.

Ключевые возможности

  • 01Цепочки для вызовов LLM, ответов на вопросы, суммаризации, SQL-запросов и маршрутизации
  • 02Поддержка OpenAI, Azure OpenAI, Ollama, Anthropic Claude и других провайдеров моделей
  • 03Интеграции с векторными хранилищами, включая Postgres, Qdrant, Pinecone и Chroma
  • 04Агенты с вызовом инструментов, запасной вариант ReAct и потоковая передача событий
  • 05Загрузчики документов для PDF, HTML, CSV и истории коммитов Git
  • 06Память чата с хранением в SQLite, Postgres, Redis или MongoDB

Сценарии использования

  • Создание сервиса ответов на вопросы с RAG в бэкенде на Rust
  • Добавление возможностей LLM в приложение на Rust, не переходя на другой язык
  • Создание агентов, которые используют инструменты для поиска или вызова пользовательских функций
  • Прототипирование цепочек, переключающихся между моделями OpenAI и локальными моделями Ollama

Быстрый старт

  1. 1

    Добавьте serde_json в свой проект на Rust

    cargo add serde_json
  2. 2

    Добавьте langchain-rust в свой проект на Rust

    cargo add langchain-rust

Что важно знать

  • Для использования функций sqlite-vss и sqlite-vec необходимо отдельно скачать дополнительные нативные библиотеки.

В подборках

Open source фреймворки и приложения для ИИ-агентов

Темы

#langchain#llm#rust#ai-agents#vector-database#rag#openai#embeddings#llms

Частые вопросы

Что такое langchain-rust?
LangChain для Rust: библиотека для создания приложений на базе LLM с компонуемыми цепочками, агентами, инструментами и векторными хранилищами. langchain-rust — порт фреймворка LangChain на Rust для создания приложений на базе больших языковых моделей. В библиотеке есть строительные блоки: цепочки LLM, диалоговые и последовательные цепочки, а также цепочки для ответов на вопросы и суммаризации. С их помощью разработчики могут объединять вызовы моделей, шаблоны промптов и этапы поиска в единый конвейер.
langchain-rust можно использовать бесплатно? Какая у него лицензия?
langchain-rust распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
langchain-rust всё ещё поддерживается?
Активно поддерживается. Последний коммит в langchain-rust — 3 нояб. 2026 г..
Для чего можно использовать langchain-rust?
Создание сервиса ответов на вопросы с RAG в бэкенде на Rust Добавление возможностей LLM в приложение на Rust, не переходя на другой язык Создание агентов, которые используют инструменты для поиска или вызова пользовательских функций Прототипирование цепочек, переключающихся между моделями OpenAI и локальными моделями Ollama
Как установить langchain-rust?
Добавьте serde_json в свой проект на Rust: cargo add serde_json Добавьте langchain-rust в свой проект на Rust: cargo add langchain-rust
Где скачать langchain-rust?
Исходный код и инструкции по установке — на GitHub: https://github.com/Abraxas-365/langchain-rust

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты