Repolode
提交项目
datawhalechina

datawhalechina/self-llm

面向国内初学者的开源大模型教程，涵盖 Linux 环境配置、本地部署与全参数/LoRA 微调。

在 GitHub 查看
Star
32,533
Fork
3,136
未关闭 Issue
163
最近提交
上个月

这是什么？

self-llm 是一套面向国内初学者的中文教程，帮助读者在 Linux 环境下部署和使用开源大语言模型。内容涵盖环境配置、本地部署、命令行调用、在线 Demo 搭建以及 LangChain 集成，覆盖 Qwen、InternLM、ChatGLM、Llama 3、MiniCPM、Gemma 等多个主流模型。

教程按模型组织，每个已支持模型都有独立的分步指南，包括部署、微调和使用说明。微调方法包括分布式全量微调、LoRA 与 P-tuning。项目还设有 AMD GPU（ROCm）、昇腾 Ascend NPU 和 Apple M 系列芯片的专区。

项目由 Datawhale 社区维护，欢迎通过 issue 和 PR 参与共建，并附有角色风格聊天模型、高等数学问答模型等示例项目。

核心功能

  • 01为数十个开源大模型和多模态模型提供分步部署与使用教程。
  • 02涵盖全参数微调、LoRA 与 P-tuning 等微调方法。
  • 03提供 Linux、ROCm、昇腾 NPU 与 Apple M 芯片的环境配置指南。
  • 04介绍命令行调用、在线 Demo 部署与 LangChain 集成。
  • 05以中文撰写，示例以 Jupyter Notebook 形式提供。

适用场景

  • 希望在本地运行 Qwen、InternLM 等模型、无需付费 API 的学生。
  • 想学习如何用 LoRA 在领域数据上微调开源模型的开发者。
  • 在 AMD 或昇腾硬件上部署开源大模型的研究人员。
  • 基于本地模型并结合 LangChain 搭建私有知识库助手的团队。

快速上手

  1. 1

    克隆仓库

    git clone https://github.com/datawhalechina/self-llm.git
  2. 2

    打开支持模型列表，按照通用环境配置指南操作

使用前须知

  • 教程以中文撰写，主要面向 Linux 平台，AMD、昇腾 NPU 和 Apple M 系列有单独的指南。
  • 大多数教程需要显存较大的 GPU 才能运行或微调模型。

标签

#llm#fine-tuning#lora#deployment#qwen#chatglm#tutorial#linux#chatglm3#gemma-2b-it

常见问题

self-llm 是什么？
面向国内初学者的开源大模型教程，涵盖 Linux 环境配置、本地部署与全参数/LoRA 微调。 self-llm 是一套面向国内初学者的中文教程，帮助读者在 Linux 环境下部署和使用开源大语言模型。内容涵盖环境配置、本地部署、命令行调用、在线 Demo 搭建以及 LangChain 集成，覆盖 Qwen、InternLM、ChatGLM、Llama 3、MiniCPM、Gemma 等多个主流模型。
self-llm 可以免费使用吗？用的什么许可证？
self-llm 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
self-llm 还在维护吗？
半年内有更新。self-llm 最近一次提交是在 2026年9月12日。
self-llm 适合用来做什么？
希望在本地运行 Qwen、InternLM 等模型、无需付费 API 的学生。 想学习如何用 LoRA 在领域数据上微调开源模型的开发者。 在 AMD 或昇腾硬件上部署开源大模型的研究人员。 基于本地模型并结合 LangChain 搭建私有知识库助手的团队。
self-llm 怎么安装和运行？
克隆仓库: git clone https://github.com/datawhalechina/self-llm.git 打开支持模型列表，按照通用环境配置指南操作
在哪里获取 self-llm？
源代码和安装说明在 GitHub 上：https://github.com/datawhalechina/self-llm

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目