Python-фреймворк для создания RAG-приложений, агентов и систем обработки документов, связывающих LLM с вашими данными.
52,8 тыс.+87 за неделю8,5 тыс.PythonMITОбновлён позавчера
LazyAGI/LazyLLM
Low-code Python-фреймворк для мультиагентных LLM-приложений: RAG, чат-боты, дообучение и развёртывание одной командой.
- Звёзды
- 3,891
- Форки
- 430
- Открытые issues
- 77
- Последний коммит
- 23 часа назад
Что это?
LazyLLM — low-code-инструмент для разработки приложений на базе больших языковых моделей с несколькими агентами. В нём есть готовые схемы, например pipeline, parallel, diverter и loop: разработчики могут собирать рабочие процессы из функций и модулей, почти не написав кода для оркестрации.
Фреймворк рассчитан на полный цикл от прототипа до продакшена: быстро собрать работающее приложение, проанализировать неудачные случаи на специализированных данных и затем улучшить алгоритмы или дообучить модели. Он предоставляет единый интерфейс к онлайн-сервисам нескольких провайдеров и локально развёрнутым моделям, работающим через такие инференс-фреймворки, как vLLM и LightLLM. В состав также входят компоненты RAG, например Document, Retriever и Reranker.
Развёртывание заложено в архитектуру. Приложения можно запускать одной командой, лёгкий gateway связывает сервисы подмодулей, а приложение можно упаковать в образ для Kubernetes. Один и тот же код работает на физических серверах, машинах для разработки, кластерах Slurm и в публичных облаках.
Ключевые возможности
- 01Сборка рабочих процессов из функций и модулей с помощью схем pipeline, parallel и loop без большого объёма кода.
- 02Единый интерфейс к API онлайн-моделей и локально развёрнутым моделям.
- 03Встроенные компоненты RAG для разбора документов, поиска и повторного ранжирования.
- 04Развёртывание одной командой с лёгким gateway и упаковкой в образ для Kubernetes.
- 05Поддержка дообучения с автоматическим выбором фреймворков и стратегий разбиения моделей.
- 06Работа на разных платформах: физических серверах, в Slurm и публичных облаках.
Сценарии использования
- Создание бота для ответов на вопросы по собственным документам с использованием RAG.
- Создание прототипа мультиагентного чат-бота, который направляет запросы к моделям для чата, речи или изображений.
- Превращение прототипа рабочего процесса в сервис для развёртывания в Kubernetes.
- Сравнение онлайн-моделей и локальных моделей в рамках одного и того же кода приложения.
Быстрый старт
- 1
Установите lazyllm с помощью pip
pip3 install lazyllm - 2
Установите все зависимости (необязательно)
lazyllm install full - 3
Задайте ключ API OpenAI в качестве переменной среды, а затем запустите чат-бота с помощью входящей в комплект команды
lazyllm run chatbot
Что важно знать
- Для локального инференса моделей требуется как минимум один фреймворк для инференса, например lightllm или vllm; обычно также необходим GPU.
- Для установки в Windows и macOS потребуется отдельная инструкция по настройке из документации.
В подборках
Темы
Частые вопросы
- Что такое LazyLLM?
- Low-code Python-фреймворк для мультиагентных LLM-приложений: RAG, чат-боты, дообучение и развёртывание одной командой. LazyLLM — low-code-инструмент для разработки приложений на базе больших языковых моделей с несколькими агентами. В нём есть готовые схемы, например pipeline, parallel, diverter и loop: разработчики могут собирать рабочие процессы из функций и модулей, почти не написав кода для оркестрации.
- LazyLLM можно использовать бесплатно? Какая у него лицензия?
- LazyLLM распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- LazyLLM всё ещё поддерживается?
- Активно поддерживается. Последний коммит в LazyLLM — 6 нояб. 2026 г..
- Для чего можно использовать LazyLLM?
- Создание бота для ответов на вопросы по собственным документам с использованием RAG. Создание прототипа мультиагентного чат-бота, который направляет запросы к моделям для чата, речи или изображений. Превращение прототипа рабочего процесса в сервис для развёртывания в Kubernetes. Сравнение онлайн-моделей и локальных моделей в рамках одного и того же кода приложения.
- Как установить LazyLLM?
- Установите lazyllm с помощью pip: pip3 install lazyllm Установите все зависимости (необязательно): lazyllm install full Задайте ключ API OpenAI в качестве переменной среды, а затем запустите чат-бота с помощью входящей в комплект команды: lazyllm run chatbot
- Где скачать LazyLLM?
- Исходный код и инструкции по установке — на GitHub: https://github.com/LazyAGI/LazyLLM
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Фреймворк на Python и TypeScript для создания мультиагентных ИИ-систем с LLM-бэкендами, инструментами, памятью, RAG и workflow.
3,5 тыс.+4 за неделю543PythonApache-2.0Активно поддерживаетсяОбновлён 4 дня назад
Набор модульных трансформаций с открытым исходным кодом для очистки, фильтрации и обогащения неструктурированных данных перед обучением LLM и использованием в RAG-приложениях.
968257HTMLApache-2.0Обновлён в прошлом месяце
Набор эталонных сценариев NVIDIA для создания RAG-пайплайнов, агентных AI-систем и дообучения LLM на базе микросервисов NIM и NeMo.
4,2 тыс.+6 за неделю1,1 тыс.Jupyter NotebookApache-2.0Обновлён вчера
Python-фреймворк для создания автономных AI-агентов, которые исследуют, планируют, пишут код и выполняют задачи; поддерживает память, RAG и более 100 LLM-провайдеров.
9,3 тыс.+14 за неделю1,5 тыс.PythonMITОбновлён 20 часов назад
Локальный AI-движок с совместимым с OpenAI API: запускает LLM, модели для зрения, речи, изображений и видео на любом оборудовании, в том числе без GPU.
50,2 тыс.+151 за неделю4,6 тыс.GoMITОбновлён 10 часов назад