Repolode
NVIDIA

NVIDIA/GenerativeAIExamples

Набор эталонных сценариев NVIDIA для создания RAG-пайплайнов, агентных AI-систем и дообучения LLM на базе микросервисов NIM и NeMo.

Звёзды
4,223
Форки
1,102
Открытые issues
85
Последний коммит
2 месяца назад

Что это?

NVIDIA Generative AI Examples — это набор эталонных сценариев, показывающих, как создавать генеративные AI-системы на программном стеке NVIDIA. В него входят RAG-пайплайны, агентные сценарии, вызов инструментов и дообучение моделей; каждый пример представлен в виде Jupyter-ноутбука, демонстрационного приложения или конфигурации Docker Compose.

Материалы по RAG включают ноутбуки и готовые примеры, созданные с помощью коннекторов LangChain и LlamaIndex. В них рассматриваются базовые и многошаговые диалоги, мультимодальные сценарии, структурированные данные CSV и декомпозиция запросов. По умолчанию примеры обращаются к размещённым NIM-эндпоинтам из NVIDIA API Catalog; некоторые из них можно запускать и локально. Также в репозитории есть сценарий Data Flywheel на базе микросервисов NeMo, руководства по настройке защитных ограничений и аудиту LLM, а также сценарии с Vision NIM для видеонаблюдения и поиска по изображениям.

Репозиторий предназначен для разработчиков, которые уже используют LangChain или LlamaIndex и хотят интегрировать в свои приложения NVIDIA NIM, NeMo Retriever и связанные сервисы.

Ключевые возможности

  • 01Базовые и продвинутые примеры RAG на LangChain и LlamaIndex
  • 02Дообучение моделей для вызова инструментов и их оценка с помощью микросервисов NeMo
  • 03Ноутбуки с агентным RAG на базе NeMo Retriever NIM
  • 04Сценарии с Vision для мониторинга событий на видео и поиска изображений на естественном языке
  • 05Настройка Docker Compose для запуска демонстрационной площадки RAG

Сценарии использования

  • Создание прототипа RAG-чат-бота для работы с собственными документами и моделями, размещёнными NVIDIA
  • Дообучение небольшой LLM для вызова функций и измерение точности
  • Интеграция поиска на базе NIM в существующее приложение на LangChain или LlamaIndex
  • Изучение мультимодальных сценариев RAG и работы со структурированными данными перед созданием продукта

Быстрый старт

  1. 1

    Получите API-ключ NVIDIA в NVIDIA API Catalog

    export NVIDIA_API_KEY=nvapi-...
  2. 2

    Клонируйте репозиторий

    git clone https://github.com/nvidia/GenerativeAIExamples.git
  3. 3

    Соберите и запустите базовый RAG-пайплайн с помощью Docker Compose

    cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build
  4. 4

    Откройте пример RAG Playground по адресу https://localhost:8090/ и отправьте запросы

Что важно знать

  • В примерах используются конечные точки NVIDIA API Catalog, для которых требуется API-ключ NVIDIA.
  • Многие примеры — это справочные ноутбуки и рабочие процессы, а не единая устанавливаемая библиотека.

В подборках

Темы

Частые вопросы

Что такое GenerativeAIExamples?
Набор эталонных сценариев NVIDIA для создания RAG-пайплайнов, агентных AI-систем и дообучения LLM на базе микросервисов NIM и NeMo. NVIDIA Generative AI Examples — это набор эталонных сценариев, показывающих, как создавать генеративные AI-системы на программном стеке NVIDIA. В него входят RAG-пайплайны, агентные сценарии, вызов инструментов и дообучение моделей; каждый пример представлен в виде Jupyter-ноутбука, демонстрационного приложения или конфигурации Docker Compose.
GenerativeAIExamples можно использовать бесплатно? Какая у него лицензия?
GenerativeAIExamples распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
GenerativeAIExamples всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в GenerativeAIExamples — 9 сент. 2026 г..
Для чего можно использовать GenerativeAIExamples?
Создание прототипа RAG-чат-бота для работы с собственными документами и моделями, размещёнными NVIDIA Дообучение небольшой LLM для вызова функций и измерение точности Интеграция поиска на базе NIM в существующее приложение на LangChain или LlamaIndex Изучение мультимодальных сценариев RAG и работы со структурированными данными перед созданием продукта
Как установить GenerativeAIExamples?
Получите API-ключ NVIDIA в NVIDIA API Catalog: export NVIDIA_API_KEY=nvapi-... Клонируйте репозиторий: git clone https://github.com/nvidia/GenerativeAIExamples.git Соберите и запустите базовый RAG-пайплайн с помощью Docker Compose: cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build Откройте пример RAG Playground по адресу https://localhost:8090/ и отправьте запросы
Где скачать GenerativeAIExamples?
Исходный код и инструкции по установке — на GitHub: https://github.com/NVIDIA/GenerativeAIExamples

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Бесплатный практический курс с Jupyter-ноутбуками и статьями о приложениях на базе LLM: OpenAI, Hugging Face, LangChain, векторные базы данных, дообучение и прунинг.

1,8 тыс.+2 за неделю450Jupyter NotebookMITОбновлён в прошлом месяце