一门免费的动手实践课程,用 Jupyter Notebook 和配套文章讲解 OpenAI、Hugging Face、LangChain 等大模型应用。
NVIDIA/GenerativeAIExamples
基于 NVIDIA NIM 与 NeMo 微服务的生成式 AI 参考示例集,涵盖 RAG、智能体与模型微调。
- Star
- 4,223
- Fork
- 1,102
- 未关闭 Issue
- 85
- 最近提交
- 昨天
这是什么?
NVIDIA Generative AI Examples 是一组参考工作流,展示如何在 NVIDIA 软件栈上构建生成式 AI 系统,内容涵盖检索增强生成(RAG)、智能体工作流、工具调用和模型微调。每个示例以 Jupyter Notebook、示例应用或 Docker Compose 配置的形式提供。
RAG 部分包含基于 LangChain 与 LlamaIndex 连接器的 notebook 和端到端示例,覆盖基础问答、多轮对话、多模态数据、结构化 CSV 数据和查询分解等场景。示例默认调用 NVIDIA API Catalog 上的托管 NIM 接口,部分也支持本地部署。此外还包括基于 NeMo 微服务的 Data Flywheel 流程、LLM 安全审计与护栏教程,以及用于视频监控和以文搜图的视觉 NIM 工作流。
本仓库适合已经在使用 LangChain 或 LlamaIndex、希望将 NVIDIA NIM、NeMo Retriever 等服务接入自有应用的开发者。
核心功能
- 01基于 LangChain 与 LlamaIndex 的基础和进阶 RAG 示例
- 02使用 NeMo 微服务进行工具调用微调与评估
- 03基于 NeMo Retriever NIM 的智能体 RAG notebook
- 04视频事件监控与自然语言以文搜图的视觉工作流
- 05提供 Docker Compose 配置,可快速启动 RAG 示例页面
适用场景
- 使用 NVIDIA 托管模型快速搭建基于自有文档的 RAG 问答原型
- 微调小型 LLM 的函数调用能力并评估其准确率
- 在现有 LangChain 或 LlamaIndex 应用中接入 NIM 检索能力
- 在落地产品前验证多模态或结构化数据的 RAG 方案
快速上手
- 1
从 NVIDIA API Catalog 获取 NVIDIA API 密钥
export NVIDIA_API_KEY=nvapi-... - 2
克隆代码仓库
git clone https://github.com/nvidia/GenerativeAIExamples.git - 3
使用 Docker Compose 构建并运行基础 RAG 流水线
cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build - 4
打开 https://localhost:8090/ 上的示例 RAG Playground 并提交查询
使用前须知
- 示例默认依赖 NVIDIA API Catalog 接口,需要 NVIDIA API 密钥。
- 许多示例是参考用的笔记本和工作流,而不是可直接安装的单一库。
收录于专题
标签
常见问题
- GenerativeAIExamples 是什么?
- 基于 NVIDIA NIM 与 NeMo 微服务的生成式 AI 参考示例集,涵盖 RAG、智能体与模型微调。 NVIDIA Generative AI Examples 是一组参考工作流,展示如何在 NVIDIA 软件栈上构建生成式 AI 系统,内容涵盖检索增强生成(RAG)、智能体工作流、工具调用和模型微调。每个示例以 Jupyter Notebook、示例应用或 Docker Compose 配置的形式提供。
- GenerativeAIExamples 可以免费使用吗?用的什么许可证?
- GenerativeAIExamples 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- GenerativeAIExamples 还在维护吗?
- 活跃维护中。GenerativeAIExamples 最近一次提交是在 2026年11月6日。
- GenerativeAIExamples 适合用来做什么?
- 使用 NVIDIA 托管模型快速搭建基于自有文档的 RAG 问答原型 微调小型 LLM 的函数调用能力并评估其准确率 在现有 LangChain 或 LlamaIndex 应用中接入 NIM 检索能力 在落地产品前验证多模态或结构化数据的 RAG 方案
- GenerativeAIExamples 怎么安装和运行?
- 从 NVIDIA API Catalog 获取 NVIDIA API 密钥: export NVIDIA_API_KEY=nvapi-... 克隆代码仓库: git clone https://github.com/nvidia/GenerativeAIExamples.git 使用 Docker Compose 构建并运行基础 RAG 流水线: cd GenerativeAIExamples/RAG/examples/basic_rag/langchain/ && docker compose up -d --build 打开 https://localhost:8090/ 上的示例 RAG Playground 并提交查询
- 在哪里获取 GenerativeAIExamples?
- 源代码和安装说明在 GitHub 上:https://github.com/NVIDIA/GenerativeAIExamples
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
按类别整理的 120 多个 LLM 开源库清单,涵盖训练、推理、RAG、智能体、评估与监控等环节。
Dart/Flutter 版的 LangChain,用于构建基于大模型的应用,支持多种模型服务、RAG 与智能体。
用于构建 RAG、智能体和文档处理应用的 Python 框架,帮助 LLM 连接私有数据。
低代码 Python 框架,用于构建多智能体大模型应用,涵盖 RAG、对话机器人、微调与一键部署。
按类别整理的开源 LLM 智能体框架、运行时与工具清单,每周更新指标。