Repolode
NVIDIA

NVIDIA/GenerativeAIExamples

基于 NVIDIA NIM 与 NeMo 微服务的生成式 AI 参考示例集,涵盖 RAG、智能体与模型微调。

Star
4,223
Fork
1,102
未关闭 Issue
85
最近提交
昨天

这是什么?

NVIDIA Generative AI Examples 是一组参考工作流,展示如何在 NVIDIA 软件栈上构建生成式 AI 系统,内容涵盖检索增强生成(RAG)、智能体工作流、工具调用和模型微调。每个示例以 Jupyter Notebook、示例应用或 Docker Compose 配置的形式提供。

RAG 部分包含基于 LangChain 与 LlamaIndex 连接器的 notebook 和端到端示例,覆盖基础问答、多轮对话、多模态数据、结构化 CSV 数据和查询分解等场景。示例默认调用 NVIDIA API Catalog 上的托管 NIM 接口,部分也支持本地部署。此外还包括基于 NeMo 微服务的 Data Flywheel 流程、LLM 安全审计与护栏教程,以及用于视频监控和以文搜图的视觉 NIM 工作流。

本仓库适合已经在使用 LangChain 或 LlamaIndex、希望将 NVIDIA NIM、NeMo Retriever 等服务接入自有应用的开发者。

核心功能

  • 01基于 LangChain 与 LlamaIndex 的基础和进阶 RAG 示例
  • 02使用 NeMo 微服务进行工具调用微调与评估
  • 03基于 NeMo Retriever NIM 的智能体 RAG notebook
  • 04视频事件监控与自然语言以文搜图的视觉工作流
  • 05提供 Docker Compose 配置,可快速启动 RAG 示例页面

适用场景

  • 使用 NVIDIA 托管模型快速搭建基于自有文档的 RAG 问答原型
  • 微调小型 LLM 的函数调用能力并评估其准确率
  • 在现有 LangChain 或 LlamaIndex 应用中接入 NIM 检索能力
  • 在落地产品前验证多模态或结构化数据的 RAG 方案

快速上手

  1. 1

    从 NVIDIA API Catalog 获取 NVIDIA API 密钥

    export NVIDIA_API_KEY=nvapi-...
  2. 2

    克隆代码仓库

    git clone https://github.com/nvidia/GenerativeAIExamples.git
  3. 3

    使用 Docker Compose 构建并运行基础 RAG 流水线

    cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build
  4. 4

    打开 https://localhost:8090/ 上的示例 RAG Playground 并提交查询

使用前须知

  • 示例默认依赖 NVIDIA API Catalog 接口,需要 NVIDIA API 密钥。
  • 许多示例是参考用的笔记本和工作流,而不是可直接安装的单一库。

收录于专题

标签

常见问题

GenerativeAIExamples 是什么?
基于 NVIDIA NIM 与 NeMo 微服务的生成式 AI 参考示例集,涵盖 RAG、智能体与模型微调。 NVIDIA Generative AI Examples 是一组参考工作流,展示如何在 NVIDIA 软件栈上构建生成式 AI 系统,内容涵盖检索增强生成(RAG)、智能体工作流、工具调用和模型微调。每个示例以 Jupyter Notebook、示例应用或 Docker Compose 配置的形式提供。
GenerativeAIExamples 可以免费使用吗?用的什么许可证?
GenerativeAIExamples 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
GenerativeAIExamples 还在维护吗?
活跃维护中。GenerativeAIExamples 最近一次提交是在 2026年11月6日。
GenerativeAIExamples 适合用来做什么?
使用 NVIDIA 托管模型快速搭建基于自有文档的 RAG 问答原型 微调小型 LLM 的函数调用能力并评估其准确率 在现有 LangChain 或 LlamaIndex 应用中接入 NIM 检索能力 在落地产品前验证多模态或结构化数据的 RAG 方案
GenerativeAIExamples 怎么安装和运行?
从 NVIDIA API Catalog 获取 NVIDIA API 密钥: export NVIDIA_API_KEY=nvapi-... 克隆代码仓库: git clone https://github.com/nvidia/GenerativeAIExamples.git 使用 Docker Compose 构建并运行基础 RAG 流水线: cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build 打开 https://localhost:8090/ 上的示例 RAG Playground 并提交查询
在哪里获取 GenerativeAIExamples?
源代码和安装说明在 GitHub 上:https://github.com/NVIDIA/GenerativeAIExamples

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目