OpenAI, Hugging Face, LangChain, 벡터 데이터베이스, 파인튜닝 및 프루닝을 활용한 LLM 애플리케이션을 다루는 무료 실습형 강의입니다.
NVIDIA/GenerativeAIExamples
NIM 및 NeMo 마이크로서비스를 활용해 RAG 파이프라인, 에이전트형 AI, LLM 파인튜닝을 구축하는 NVIDIA 중심의 레퍼런스 워크플로 모음입니다.
- 스타
- 4,223
- 포크
- 1,102
- 열린 이슈
- 85
- 마지막 커밋
- 어제
어떤 프로젝트인가요?
NVIDIA Generative AI Examples는 NVIDIA 소프트웨어 스택에서 생성형 AI 시스템을 구축하는 방법을 보여주는 레퍼런스 워크플로 모음입니다. RAG(Retrieval-Augmented Generation) 파이프라인, 에이전트형 워크플로, 툴 호출, 모델 파인튜닝을 다루며, 각 예제는 Jupyter notebook, 샘플 애플리케이션 또는 Docker Compose 설정으로 제공됩니다.
RAG 자료에는 LangChain 및 LlamaIndex 커넥터를 활용한 노트북과 엔드투엔드 예제가 포함되어 있으며, 기본형, 멀티턴, 멀티모달, 구조화된 CSV 데이터, 쿼리 분해 등의 옵션을 제공합니다. 기본적으로 예제는 NVIDIA API Catalog의 호스팅 NIM 엔드포인트를 호출하며, 일부는 온프레미스 환경에서도 실행할 수 있습니다. 이 밖에도 NeMo 마이크로서비스를 기반으로 한 Data Flywheel 워크플로, 가드레일 및 LLM 감사 튜토리얼, 비디오 모니터링과 이미지 검색을 위한 Vision NIM 워크플로도 다룹니다.
이 저장소는 이미 LangChain이나 LlamaIndex를 사용하고 있으며, NVIDIA NIM, NeMo Retriever 또는 관련 서비스를 애플리케이션에 연결하려는 개발자를 대상으로 합니다.
핵심 기능
- 01LangChain 및 LlamaIndex로 만든 기본 및 고급 RAG 예제
- 02NeMo 마이크로서비스를 활용한 툴 호출 파인튜닝 및 평가
- 03NeMo Retriever NIM을 사용하는 에이전트형 RAG 노트북
- 04비디오 이벤트 모니터링 및 자연어 이미지 검색을 위한 Vision 워크플로
- 05샘플 RAG 플레이그라운드 실행을 위한 Docker Compose 설정
활용 사례
- NVIDIA 호스팅 모델을 사용해 자체 문서 기반 RAG 챗봇 프로토타이핑
- 함수 호출용 소형 LLM을 파인튜닝하고 정확도 측정
- 기존 LangChain 또는 LlamaIndex 애플리케이션에 NIM 기반 검색 기능 추가
- 제품을 만들기 전에 멀티모달 또는 구조화 데이터 RAG 패턴 탐색
빠른 시작
- 1
NVIDIA API Catalog에서 NVIDIA API 키를 발급받습니다
export NVIDIA_API_KEY=nvapi-... - 2
리포지토리를 클론합니다
git clone https://github.com/nvidia/GenerativeAIExamples.git - 3
Docker Compose로 기본 RAG 파이프라인을 빌드하고 실행합니다
cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build - 4
https://localhost:8090/ 에서 샘플 RAG Playground를 열고 쿼리를 제출합니다
사용 전 알아둘 점
- 예제는 NVIDIA API Catalog 엔드포인트를 사용하므로 NVIDIA API 키가 필요합니다.
- 대부분의 예제는 설치 가능한 단일 라이브러리가 아니라 참고용 노트북과 워크플로입니다.
포함된 컬렉션
토픽
자주 묻는 질문
- GenerativeAIExamples은(는) 무엇인가요?
- NIM 및 NeMo 마이크로서비스를 활용해 RAG 파이프라인, 에이전트형 AI, LLM 파인튜닝을 구축하는 NVIDIA 중심의 레퍼런스 워크플로 모음입니다. NVIDIA Generative AI Examples는 NVIDIA 소프트웨어 스택에서 생성형 AI 시스템을 구축하는 방법을 보여주는 레퍼런스 워크플로 모음입니다. RAG(Retrieval-Augmented Generation) 파이프라인, 에이전트형 워크플로, 툴 호출, 모델 파인튜닝을 다루며, 각 예제는 Jupyter notebook, 샘플 애플리케이션 또는 Docker Compose 설정으로 제공됩니다.
- GenerativeAIExamples은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- GenerativeAIExamples은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- GenerativeAIExamples은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. GenerativeAIExamples의 마지막 커밋은 2026년 11월 6일입니다.
- GenerativeAIExamples은(는) 어디에 사용할 수 있나요?
- NVIDIA 호스팅 모델을 사용해 자체 문서 기반 RAG 챗봇 프로토타이핑 함수 호출용 소형 LLM을 파인튜닝하고 정확도 측정 기존 LangChain 또는 LlamaIndex 애플리케이션에 NIM 기반 검색 기능 추가 제품을 만들기 전에 멀티모달 또는 구조화 데이터 RAG 패턴 탐색
- GenerativeAIExamples는 어떻게 설치하나요?
- NVIDIA API Catalog에서 NVIDIA API 키를 발급받습니다: export NVIDIA_API_KEY=nvapi-... 리포지토리를 클론합니다: git clone https://github.com/nvidia/GenerativeAIExamples.git Docker Compose로 기본 RAG 파이프라인을 빌드하고 실행합니다: cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build https://localhost:8090/ 에서 샘플 RAG Playground를 열고 쿼리를 제출합니다
- GenerativeAIExamples은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/NVIDIA/GenerativeAIExamples
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
LLM 애플리케이션 구축, 학습, 서빙, 평가 및 모니터링에 쓰이는 오픈소스 라이브러리 120여 개를 카테고리별로 정리한 목록입니다.
플러그인 방식으로 모델 제공자, RAG, 에이전트를 지원해 LLM 기반 앱을 만들 수 있는 LangChain의 Dart 및 Flutter 포트입니다.
자체 데이터와 LLM을 연결해 RAG, 에이전트, 문서 처리 애플리케이션을 구축하는 Python 프레임워크입니다.
RAG, 챗봇, 파인튜닝, 원클릭 배포를 지원하는 멀티 에이전트 LLM 앱 구축용 로우코드 Python 프레임워크입니다.
LLM 에이전트 구축을 위한 오픈소스 프레임워크, 런타임, 도구를 카테고리별로 정리하고 매주 업데이트하는 큐레이션 목록입니다.