Repolode
peremartra

peremartra/Large-Language-Model-Notebooks-Course

一门免费的动手实践课程,用 Jupyter Notebook 和配套文章讲解 OpenAI、Hugging Face、LangChain 等大模型应用。

Star
1,825
Fork
450
未关闭 Issue
0
最近提交
22天前

这是什么?

这是一门免费的大语言模型动手实践课程,以 Jupyter Notebook 为主体,大多数托管在 Colab 上,每个 notebook 都配有一篇详细解释代码的文章。仓库是同名 Apress 图书的非官方配套材料,但课程内容并不包含书中的全部内容,且仍在持续更新。

课程分为三部分:技术与库、实战项目、企业级方案。第一部分涵盖基于 OpenAI API 的聊天机器人、自然语言转 SQL、基于 ChromaDB 的向量数据库、LangChain 检索增强生成、智能体、BLEU 和 ROUGE 等评估指标,以及使用 PEFT、LoRA、QLoRA 进行微调。后续部分聚焦 Llama 系列模型的结构化剪枝、注意力层绕过、知识蒸馏和偏见分析。

学习时建议把文章与 notebook 并排打开、边看边跑。部分 notebook 对显存要求较高,免费版 Colab 可能不够用。

核心功能

  • 01提供 OpenAI API 聊天机器人、自然语言转 SQL 和提示词工程的 notebook。
  • 02包含基于 ChromaDB 和 LangChain 的 RAG 流程。
  • 03涵盖 BLEU、ROUGE、LangSmith 和 Giskard 等评估方法。
  • 04讲解使用 PEFT、LoRA 和 QLoRA 的参数高效微调。
  • 05演示在 Llama 3.2 模型上进行剪枝和知识蒸馏。

适用场景

  • 学习如何用 LangChain 和向量数据库搭建 RAG 聊天机器人。
  • 在单张消费级 GPU 上使用 QLoRA 练习大模型微调。
  • 探索剪枝、知识蒸馏等模型压缩技术。

快速上手

  1. 1

    在 Google Colab 中打开课程笔记本,或在本地从仓库运行

  2. 2

    克隆仓库

  3. 3

    在阅读课程文章的同时跟随笔记本操作

使用前须知

  • 许多笔记本使用 OpenAI 或 Hugging Face 模型,需要 API 密钥或超出免费 Colab 版本的内存。
  • 课程仍在持续开发中,课时会陆续增加。
  • 部分课程仍在制作中,尚无配套文章。

标签

常见问题

Large-Language-Model-Notebooks-Course 是什么?
一门免费的动手实践课程,用 Jupyter Notebook 和配套文章讲解 OpenAI、Hugging Face、LangChain 等大模型应用。 这是一门免费的大语言模型动手实践课程,以 Jupyter Notebook 为主体,大多数托管在 Colab 上,每个 notebook 都配有一篇详细解释代码的文章。仓库是同名 Apress 图书的非官方配套材料,但课程内容并不包含书中的全部内容,且仍在持续更新。
Large-Language-Model-Notebooks-Course 可以免费使用吗?用的什么许可证?
Large-Language-Model-Notebooks-Course 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
Large-Language-Model-Notebooks-Course 还在维护吗?
活跃维护中。Large-Language-Model-Notebooks-Course 最近一次提交是在 2026年9月29日。
Large-Language-Model-Notebooks-Course 适合用来做什么?
学习如何用 LangChain 和向量数据库搭建 RAG 聊天机器人。 在单张消费级 GPU 上使用 QLoRA 练习大模型微调。 探索剪枝、知识蒸馏等模型压缩技术。
Large-Language-Model-Notebooks-Course 怎么安装和运行?
在 Google Colab 中打开课程笔记本,或在本地从仓库运行 克隆仓库 在阅读课程文章的同时跟随笔记本操作
在哪里获取 Large-Language-Model-Notebooks-Course?
源代码和安装说明在 GitHub 上:https://github.com/peremartra/Large-Language-Model-Notebooks-Course

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目