Repolode
提交项目
huggingface

huggingface/smol-course

Hugging Face 推出的实践课程，教你用小型语言和视觉语言模型做对齐，对本地硬件要求低。

在 GitHub 查看
Star
6,784
Fork
2,276
未关闭 Issue
99
最近提交
16天前

这是什么？

smol course 是一门面向具体应用场景的语言模型对齐实践课程，围绕 SmolLM3 和 SmolVLM2 模型展开。课程设计为可在大多数本地机器上运行，对 GPU 要求较低，且无需付费服务。

课程内容包括使用聊天模板进行指令微调、在基准和自定义领域上做评估、用 DPO 等算法进行偏好对齐，以及视觉语言模型的适配与使用。强化学习、合成数据生成和社区排行榜等模块也在规划之中。

课程材料开放并经过同行评审，学习者可以通过 Pull Request 提交练习、示例和模型。基于 Markdown 与 Jupyter Notebook 的第一版课程保存在 v1 目录中。

核心功能

  • 01基于聊天模板的指令微调与有监督微调
  • 02在标准基准和自定义领域上评估模型
  • 03使用 DPO 等算法进行偏好对齐
  • 04适配视觉语言模型以处理多模态任务
  • 05对本地 GPU 要求低，大多数机器可以运行

适用场景

  • 学习如何为特定领域微调小型大语言模型
  • 在笔记本电脑上让紧凑模型遵循指令并符合人类偏好
  • 为细分应用构建自定义评估集
  • 入门视觉语言模型的适配方法

使用前须知

  • README 假定读者已熟悉 Python、PyTorch 和 transformers 库。
  • 部分课程单元（强化学习和合成数据）在 README 中标注为尚未发布。

收录于专题

开源教育与学习工具

标签

#llm#fine-tuning#alignment#vision-language-model#jupyter#education#hugging-face

常见问题

smol-course 是什么？
Hugging Face 推出的实践课程，教你用小型语言和视觉语言模型做对齐，对本地硬件要求低。 smol course 是一门面向具体应用场景的语言模型对齐实践课程，围绕 SmolLM3 和 SmolVLM2 模型展开。课程设计为可在大多数本地机器上运行，对 GPU 要求较低，且无需付费服务。
smol-course 可以免费使用吗？用的什么许可证？
smol-course 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
smol-course 还在维护吗？
活跃维护中。smol-course 最近一次提交是在 2026年10月6日。
smol-course 适合用来做什么？
学习如何为特定领域微调小型大语言模型 在笔记本电脑上让紧凑模型遵循指令并符合人类偏好 为细分应用构建自定义评估集 入门视觉语言模型的适配方法
在哪里获取 smol-course？
源代码和安装说明在 GitHub 上：https://github.com/huggingface/smol-course

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目