Repolode
NVIDIA

NVIDIA/GenerativeAIExamples

NIM 및 NeMo 마이크로서비스를 활용해 RAG 파이프라인, 에이전트형 AI, LLM 파인튜닝을 구축하는 NVIDIA 중심의 레퍼런스 워크플로 모음입니다.

스타
4,223
포크
1,102
열린 이슈
85
마지막 커밋
어제

어떤 프로젝트인가요?

NVIDIA Generative AI Examples는 NVIDIA 소프트웨어 스택에서 생성형 AI 시스템을 구축하는 방법을 보여주는 레퍼런스 워크플로 모음입니다. RAG(Retrieval-Augmented Generation) 파이프라인, 에이전트형 워크플로, 툴 호출, 모델 파인튜닝을 다루며, 각 예제는 Jupyter notebook, 샘플 애플리케이션 또는 Docker Compose 설정으로 제공됩니다.

RAG 자료에는 LangChain 및 LlamaIndex 커넥터를 활용한 노트북과 엔드투엔드 예제가 포함되어 있으며, 기본형, 멀티턴, 멀티모달, 구조화된 CSV 데이터, 쿼리 분해 등의 옵션을 제공합니다. 기본적으로 예제는 NVIDIA API Catalog의 호스팅 NIM 엔드포인트를 호출하며, 일부는 온프레미스 환경에서도 실행할 수 있습니다. 이 밖에도 NeMo 마이크로서비스를 기반으로 한 Data Flywheel 워크플로, 가드레일 및 LLM 감사 튜토리얼, 비디오 모니터링과 이미지 검색을 위한 Vision NIM 워크플로도 다룹니다.

이 저장소는 이미 LangChain이나 LlamaIndex를 사용하고 있으며, NVIDIA NIM, NeMo Retriever 또는 관련 서비스를 애플리케이션에 연결하려는 개발자를 대상으로 합니다.

핵심 기능

  • 01LangChain 및 LlamaIndex로 만든 기본 및 고급 RAG 예제
  • 02NeMo 마이크로서비스를 활용한 툴 호출 파인튜닝 및 평가
  • 03NeMo Retriever NIM을 사용하는 에이전트형 RAG 노트북
  • 04비디오 이벤트 모니터링 및 자연어 이미지 검색을 위한 Vision 워크플로
  • 05샘플 RAG 플레이그라운드 실행을 위한 Docker Compose 설정

활용 사례

  • NVIDIA 호스팅 모델을 사용해 자체 문서 기반 RAG 챗봇 프로토타이핑
  • 함수 호출용 소형 LLM을 파인튜닝하고 정확도 측정
  • 기존 LangChain 또는 LlamaIndex 애플리케이션에 NIM 기반 검색 기능 추가
  • 제품을 만들기 전에 멀티모달 또는 구조화 데이터 RAG 패턴 탐색

빠른 시작

  1. 1

    NVIDIA API Catalog에서 NVIDIA API 키를 발급받습니다

    export NVIDIA_API_KEY=nvapi-...
  2. 2

    리포지토리를 클론합니다

    git clone https://github.com/nvidia/GenerativeAIExamples.git
  3. 3

    Docker Compose로 기본 RAG 파이프라인을 빌드하고 실행합니다

    cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build
  4. 4

    https://localhost:8090/ 에서 샘플 RAG Playground를 열고 쿼리를 제출합니다

사용 전 알아둘 점

  • 예제는 NVIDIA API Catalog 엔드포인트를 사용하므로 NVIDIA API 키가 필요합니다.
  • 대부분의 예제는 설치 가능한 단일 라이브러리가 아니라 참고용 노트북과 워크플로입니다.

포함된 컬렉션

토픽

자주 묻는 질문

GenerativeAIExamples은(는) 무엇인가요?
NIM 및 NeMo 마이크로서비스를 활용해 RAG 파이프라인, 에이전트형 AI, LLM 파인튜닝을 구축하는 NVIDIA 중심의 레퍼런스 워크플로 모음입니다. NVIDIA Generative AI Examples는 NVIDIA 소프트웨어 스택에서 생성형 AI 시스템을 구축하는 방법을 보여주는 레퍼런스 워크플로 모음입니다. RAG(Retrieval-Augmented Generation) 파이프라인, 에이전트형 워크플로, 툴 호출, 모델 파인튜닝을 다루며, 각 예제는 Jupyter notebook, 샘플 애플리케이션 또는 Docker Compose 설정으로 제공됩니다.
GenerativeAIExamples은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
GenerativeAIExamples은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
GenerativeAIExamples은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. GenerativeAIExamples의 마지막 커밋은 2026년 11월 6일입니다.
GenerativeAIExamples은(는) 어디에 사용할 수 있나요?
NVIDIA 호스팅 모델을 사용해 자체 문서 기반 RAG 챗봇 프로토타이핑 함수 호출용 소형 LLM을 파인튜닝하고 정확도 측정 기존 LangChain 또는 LlamaIndex 애플리케이션에 NIM 기반 검색 기능 추가 제품을 만들기 전에 멀티모달 또는 구조화 데이터 RAG 패턴 탐색
GenerativeAIExamples는 어떻게 설치하나요?
NVIDIA API Catalog에서 NVIDIA API 키를 발급받습니다: export NVIDIA_API_KEY=nvapi-... 리포지토리를 클론합니다: git clone https://github.com/nvidia/GenerativeAIExamples.git Docker Compose로 기본 RAG 파이프라인을 빌드하고 실행합니다: cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build https://localhost:8090/ 에서 샘플 RAG Playground를 열고 쿼리를 제출합니다
GenerativeAIExamples은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/NVIDIA/GenerativeAIExamples

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트