Repolode
datawhalechina

datawhalechina/self-llm

Linux上でオープンソースのLLMやマルチモーダルモデルをデプロイ、利用、ファインチューニングするための中国語チュートリアル集。全パラメータ、LoRA、P-tuningの手順を網羅します。

スター
32,533
フォーク
3,136
未解決の Issue
163
最終コミット
先月

これは何?

self-llmは、Linuxマシン上でオープンソースの大規模言語モデルを動かしたい初心者向けの中国語チュートリアルプロジェクトです。環境構築、ローカルデプロイ、コマンドラインやオンラインデモでの利用、LangChainとの連携に加え、Qwen、InternLM、ChatGLM、Llama 3、MiniCPM、Gemmaなど、幅広いモデルのファインチューニングを解説しています。

モデルごとにコンテンツが整理されており、対応する各モデルについて、デプロイ、ファインチューニング、利用方法を順を追って説明しています。扱うファインチューニング手法には、分散全パラメータ学習、LoRA、P-tuningがあります。また、AMD GPU向けのROCm、Huawei Ascend NPU、Apple Mシリーズチップを対象とした個別のセクションも用意されています。

このプロジェクトはDatawhaleが運営しており、コントリビューターからのissueやプルリクエストを受け付けています。InternLM2-Mathをベースにしたキャラクター風チャットモデルや数学特化モデルなどのサンプルプロジェクトも含まれています。

主な機能

  • 01多数のオープンソースLLMやマルチモーダルモデルについて、デプロイと利用方法を順を追って解説しています。
  • 02全パラメータファインチューニング、LoRA、P-tuningの手法を扱っています。
  • 03Linux、ROCm、Ascend NPU、Apple Mチップ向けの環境構築ガイドを収録しています。
  • 04コマンドラインからの呼び出し、オンラインデモのデプロイ、LangChainとの連携を紹介しています。
  • 05中国語で書かれており、Jupyter Notebookを使ったサンプルを掲載しています。

ユースケース

  • 有料APIを使わずにQwenやInternLMをローカルで動かしたい学生。
  • ドメイン固有のデータセットを使い、オープンモデルをLoRAでファインチューニングする方法を学びたい開発者。
  • AMDまたはAscendのハードウェア上でオープンLLMをセットアップしたい研究者。
  • ローカルモデルとLangChainを使って、社内向けのナレッジアシスタントを構築するチーム。

クイックスタート

  1. 1

    リポジトリをクローンする

    git clone https://github.com/datawhalechina/self-llm.git
  2. 2

    対応モデルの一覧があるチュートリアルのインデックスを開き、一般的な環境構築ガイドに従う

使う前に知っておきたいこと

  • チュートリアルは中国語で書かれており、Linuxを対象としています。AMD、Ascend NPU、Apple Mハードウェア向けには個別のガイドがあります。
  • モデルの実行やファインチューニングには、十分なVRAMを搭載したGPUが必要となるガイドがほとんどです。

トピック

よくある質問

self-llm とは?
Linux上でオープンソースのLLMやマルチモーダルモデルをデプロイ、利用、ファインチューニングするための中国語チュートリアル集。全パラメータ、LoRA、P-tuningの手順を網羅します。 self-llmは、Linuxマシン上でオープンソースの大規模言語モデルを動かしたい初心者向けの中国語チュートリアルプロジェクトです。環境構築、ローカルデプロイ、コマンドラインやオンラインデモでの利用、LangChainとの連携に加え、Qwen、InternLM、ChatGLM、Llama 3、MiniCPM、Gemmaなど、幅広いモデルのファインチューニングを解説しています。
self-llm は無料で使えますか?ライセンスは?
self-llm は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
self-llm は今もメンテナンスされていますか?
半年以内に更新あり。self-llm の最終コミットは 2026年9月12日 です。
self-llm は何に使えますか?
有料APIを使わずにQwenやInternLMをローカルで動かしたい学生。 ドメイン固有のデータセットを使い、オープンモデルをLoRAでファインチューニングする方法を学びたい開発者。 AMDまたはAscendのハードウェア上でオープンLLMをセットアップしたい研究者。 ローカルモデルとLangChainを使って、社内向けのナレッジアシスタントを構築するチーム。
self-llm のインストール方法は?
リポジトリをクローンする: git clone https://github.com/datawhalechina/self-llm.git 対応モデルの一覧があるチュートリアルのインデックスを開き、一般的な環境構築ガイドに従う
self-llm はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/datawhalechina/self-llm

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト