Бесплатный практический курс с Jupyter-ноутбуками и статьями о приложениях на базе LLM: OpenAI, Hugging Face, LangChain, векторные базы данных, дообучение и прунинг.
NVIDIA/GenerativeAIExamples
Набор эталонных сценариев NVIDIA для создания RAG-пайплайнов, агентных AI-систем и дообучения LLM на базе микросервисов NIM и NeMo.
- Звёзды
- 4,223
- Форки
- 1,102
- Открытые issues
- 85
- Последний коммит
- 2 месяца назад
Что это?
NVIDIA Generative AI Examples — это набор эталонных сценариев, показывающих, как создавать генеративные AI-системы на программном стеке NVIDIA. В него входят RAG-пайплайны, агентные сценарии, вызов инструментов и дообучение моделей; каждый пример представлен в виде Jupyter-ноутбука, демонстрационного приложения или конфигурации Docker Compose.
Материалы по RAG включают ноутбуки и готовые примеры, созданные с помощью коннекторов LangChain и LlamaIndex. В них рассматриваются базовые и многошаговые диалоги, мультимодальные сценарии, структурированные данные CSV и декомпозиция запросов. По умолчанию примеры обращаются к размещённым NIM-эндпоинтам из NVIDIA API Catalog; некоторые из них можно запускать и локально. Также в репозитории есть сценарий Data Flywheel на базе микросервисов NeMo, руководства по настройке защитных ограничений и аудиту LLM, а также сценарии с Vision NIM для видеонаблюдения и поиска по изображениям.
Репозиторий предназначен для разработчиков, которые уже используют LangChain или LlamaIndex и хотят интегрировать в свои приложения NVIDIA NIM, NeMo Retriever и связанные сервисы.
Ключевые возможности
- 01Базовые и продвинутые примеры RAG на LangChain и LlamaIndex
- 02Дообучение моделей для вызова инструментов и их оценка с помощью микросервисов NeMo
- 03Ноутбуки с агентным RAG на базе NeMo Retriever NIM
- 04Сценарии с Vision для мониторинга событий на видео и поиска изображений на естественном языке
- 05Настройка Docker Compose для запуска демонстрационной площадки RAG
Сценарии использования
- Создание прототипа RAG-чат-бота для работы с собственными документами и моделями, размещёнными NVIDIA
- Дообучение небольшой LLM для вызова функций и измерение точности
- Интеграция поиска на базе NIM в существующее приложение на LangChain или LlamaIndex
- Изучение мультимодальных сценариев RAG и работы со структурированными данными перед созданием продукта
Быстрый старт
- 1
Получите API-ключ NVIDIA в NVIDIA API Catalog
export NVIDIA_API_KEY=nvapi-... - 2
Клонируйте репозиторий
git clone https://github.com/nvidia/GenerativeAIExamples.git - 3
Соберите и запустите базовый RAG-пайплайн с помощью Docker Compose
cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build - 4
Откройте пример RAG Playground по адресу https://localhost:8090/ и отправьте запросы
Что важно знать
- В примерах используются конечные точки NVIDIA API Catalog, для которых требуется API-ключ NVIDIA.
- Многие примеры — это справочные ноутбуки и рабочие процессы, а не единая устанавливаемая библиотека.
В подборках
Темы
Частые вопросы
- Что такое GenerativeAIExamples?
- Набор эталонных сценариев NVIDIA для создания RAG-пайплайнов, агентных AI-систем и дообучения LLM на базе микросервисов NIM и NeMo. NVIDIA Generative AI Examples — это набор эталонных сценариев, показывающих, как создавать генеративные AI-системы на программном стеке NVIDIA. В него входят RAG-пайплайны, агентные сценарии, вызов инструментов и дообучение моделей; каждый пример представлен в виде Jupyter-ноутбука, демонстрационного приложения или конфигурации Docker Compose.
- GenerativeAIExamples можно использовать бесплатно? Какая у него лицензия?
- GenerativeAIExamples распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- GenerativeAIExamples всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в GenerativeAIExamples — 9 сент. 2026 г..
- Для чего можно использовать GenerativeAIExamples?
- Создание прототипа RAG-чат-бота для работы с собственными документами и моделями, размещёнными NVIDIA Дообучение небольшой LLM для вызова функций и измерение точности Интеграция поиска на базе NIM в существующее приложение на LangChain или LlamaIndex Изучение мультимодальных сценариев RAG и работы со структурированными данными перед созданием продукта
- Как установить GenerativeAIExamples?
- Получите API-ключ NVIDIA в NVIDIA API Catalog: export NVIDIA_API_KEY=nvapi-... Клонируйте репозиторий: git clone https://github.com/nvidia/GenerativeAIExamples.git Соберите и запустите базовый RAG-пайплайн с помощью Docker Compose: cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build Откройте пример RAG Playground по адресу https://localhost:8090/ и отправьте запросы
- Где скачать GenerativeAIExamples?
- Исходный код и инструкции по установке — на GitHub: https://github.com/NVIDIA/GenerativeAIExamples
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Подборка из более чем 120 open-source библиотек по категориям для создания, обучения, запуска, оценки и мониторинга приложений на базе LLM.
Порт LangChain на Dart и Flutter для создания приложений на базе LLM с подключаемыми провайдерами моделей, RAG и агентами.
Python-фреймворк для создания RAG-приложений, агентов и систем обработки документов, связывающих LLM с вашими данными.
Low-code Python-фреймворк для мультиагентных LLM-приложений: RAG, чат-боты, дообучение и развёртывание одной командой.
Подборка open-source-фреймворков, сред выполнения и инструментов для создания LLM-агентов, обновляемая каждую неделю и разбитая на категории.