一门免费开源的 AI 工程课程,共 542 节课,用 Python、TypeScript、Rust 和 Julia 从零实现核心概念。
peremartra/Large-Language-Model-Notebooks-Course
一门免费的动手实践课程,用 Jupyter Notebook 和配套文章讲解 OpenAI、Hugging Face、LangChain 等大模型应用。
- Star
- 1,825
- Fork
- 450
- 未关闭 Issue
- 0
- 最近提交
- 22天前
这是什么?
这是一门免费的大语言模型动手实践课程,以 Jupyter Notebook 为主体,大多数托管在 Colab 上,每个 notebook 都配有一篇详细解释代码的文章。仓库是同名 Apress 图书的非官方配套材料,但课程内容并不包含书中的全部内容,且仍在持续更新。
课程分为三部分:技术与库、实战项目、企业级方案。第一部分涵盖基于 OpenAI API 的聊天机器人、自然语言转 SQL、基于 ChromaDB 的向量数据库、LangChain 检索增强生成、智能体、BLEU 和 ROUGE 等评估指标,以及使用 PEFT、LoRA、QLoRA 进行微调。后续部分聚焦 Llama 系列模型的结构化剪枝、注意力层绕过、知识蒸馏和偏见分析。
学习时建议把文章与 notebook 并排打开、边看边跑。部分 notebook 对显存要求较高,免费版 Colab 可能不够用。
核心功能
- 01提供 OpenAI API 聊天机器人、自然语言转 SQL 和提示词工程的 notebook。
- 02包含基于 ChromaDB 和 LangChain 的 RAG 流程。
- 03涵盖 BLEU、ROUGE、LangSmith 和 Giskard 等评估方法。
- 04讲解使用 PEFT、LoRA 和 QLoRA 的参数高效微调。
- 05演示在 Llama 3.2 模型上进行剪枝和知识蒸馏。
适用场景
- 学习如何用 LangChain 和向量数据库搭建 RAG 聊天机器人。
- 在单张消费级 GPU 上使用 QLoRA 练习大模型微调。
- 探索剪枝、知识蒸馏等模型压缩技术。
快速上手
- 1
在 Google Colab 中打开课程笔记本,或在本地从仓库运行
- 2
克隆仓库
- 3
在阅读课程文章的同时跟随笔记本操作
使用前须知
- 许多笔记本使用 OpenAI 或 Hugging Face 模型,需要 API 密钥或超出免费 Colab 版本的内存。
- 课程仍在持续开发中,课时会陆续增加。
- 部分课程仍在制作中,尚无配套文章。
标签
常见问题
- Large-Language-Model-Notebooks-Course 是什么?
- 一门免费的动手实践课程,用 Jupyter Notebook 和配套文章讲解 OpenAI、Hugging Face、LangChain 等大模型应用。 这是一门免费的大语言模型动手实践课程,以 Jupyter Notebook 为主体,大多数托管在 Colab 上,每个 notebook 都配有一篇详细解释代码的文章。仓库是同名 Apress 图书的非官方配套材料,但课程内容并不包含书中的全部内容,且仍在持续更新。
- Large-Language-Model-Notebooks-Course 可以免费使用吗?用的什么许可证?
- Large-Language-Model-Notebooks-Course 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- Large-Language-Model-Notebooks-Course 还在维护吗?
- 活跃维护中。Large-Language-Model-Notebooks-Course 最近一次提交是在 2026年9月29日。
- Large-Language-Model-Notebooks-Course 适合用来做什么?
- 学习如何用 LangChain 和向量数据库搭建 RAG 聊天机器人。 在单张消费级 GPU 上使用 QLoRA 练习大模型微调。 探索剪枝、知识蒸馏等模型压缩技术。
- Large-Language-Model-Notebooks-Course 怎么安装和运行?
- 在 Google Colab 中打开课程笔记本,或在本地从仓库运行 克隆仓库 在阅读课程文章的同时跟随笔记本操作
- 在哪里获取 Large-Language-Model-Notebooks-Course?
- 源代码和安装说明在 GitHub 上:https://github.com/peremartra/Large-Language-Model-Notebooks-Course
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一本从零开始讲解并动手实现大语言模型的中文开源教程,涵盖 Transformer、预训练、微调、RAG 与 Agent。
面向国内初学者的开源大模型教程,涵盖 Linux 环境配置、本地部署与全参数/LoRA 微调。
用 PyTorch 从零实现的 Transformer 大模型训练教程与代码库,涵盖预训练、SFT、奖励模型、DPO/PPO/GRPO 与文本生成。
按类别整理的 120 多个 LLM 开源库清单,涵盖训练、推理、RAG、智能体、评估与监控等环节。
一份中文逐步指南与演示代码,从 API 调用带你走到大模型本地部署与微调,无显卡也可学习。