LLM APIの利用からローカル環境での実行・ファインチューニングまで学べる中国語の手順ガイドとデモコード。Kaggle/Colab版も用意。
datawhalechina/self-llm
Linux上でオープンソースのLLMやマルチモーダルモデルをデプロイ、利用、ファインチューニングするための中国語チュートリアル集。全パラメータ、LoRA、P-tuningの手順を網羅します。
- スター
- 32,533
- フォーク
- 3,136
- 未解決の Issue
- 163
- 最終コミット
- 先月
これは何?
self-llmは、Linuxマシン上でオープンソースの大規模言語モデルを動かしたい初心者向けの中国語チュートリアルプロジェクトです。環境構築、ローカルデプロイ、コマンドラインやオンラインデモでの利用、LangChainとの連携に加え、Qwen、InternLM、ChatGLM、Llama 3、MiniCPM、Gemmaなど、幅広いモデルのファインチューニングを解説しています。
モデルごとにコンテンツが整理されており、対応する各モデルについて、デプロイ、ファインチューニング、利用方法を順を追って説明しています。扱うファインチューニング手法には、分散全パラメータ学習、LoRA、P-tuningがあります。また、AMD GPU向けのROCm、Huawei Ascend NPU、Apple Mシリーズチップを対象とした個別のセクションも用意されています。
このプロジェクトはDatawhaleが運営しており、コントリビューターからのissueやプルリクエストを受け付けています。InternLM2-Mathをベースにしたキャラクター風チャットモデルや数学特化モデルなどのサンプルプロジェクトも含まれています。
主な機能
- 01多数のオープンソースLLMやマルチモーダルモデルについて、デプロイと利用方法を順を追って解説しています。
- 02全パラメータファインチューニング、LoRA、P-tuningの手法を扱っています。
- 03Linux、ROCm、Ascend NPU、Apple Mチップ向けの環境構築ガイドを収録しています。
- 04コマンドラインからの呼び出し、オンラインデモのデプロイ、LangChainとの連携を紹介しています。
- 05中国語で書かれており、Jupyter Notebookを使ったサンプルを掲載しています。
ユースケース
- 有料APIを使わずにQwenやInternLMをローカルで動かしたい学生。
- ドメイン固有のデータセットを使い、オープンモデルをLoRAでファインチューニングする方法を学びたい開発者。
- AMDまたはAscendのハードウェア上でオープンLLMをセットアップしたい研究者。
- ローカルモデルとLangChainを使って、社内向けのナレッジアシスタントを構築するチーム。
クイックスタート
- 1
リポジトリをクローンする
git clone https://github.com/datawhalechina/self-llm.git - 2
対応モデルの一覧があるチュートリアルのインデックスを開き、一般的な環境構築ガイドに従う
使う前に知っておきたいこと
- チュートリアルは中国語で書かれており、Linuxを対象としています。AMD、Ascend NPU、Apple Mハードウェア向けには個別のガイドがあります。
- モデルの実行やファインチューニングには、十分なVRAMを搭載したGPUが必要となるガイドがほとんどです。
トピック
よくある質問
- self-llm とは?
- Linux上でオープンソースのLLMやマルチモーダルモデルをデプロイ、利用、ファインチューニングするための中国語チュートリアル集。全パラメータ、LoRA、P-tuningの手順を網羅します。 self-llmは、Linuxマシン上でオープンソースの大規模言語モデルを動かしたい初心者向けの中国語チュートリアルプロジェクトです。環境構築、ローカルデプロイ、コマンドラインやオンラインデモでの利用、LangChainとの連携に加え、Qwen、InternLM、ChatGLM、Llama 3、MiniCPM、Gemmaなど、幅広いモデルのファインチューニングを解説しています。
- self-llm は無料で使えますか?ライセンスは?
- self-llm は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- self-llm は今もメンテナンスされていますか?
- 半年以内に更新あり。self-llm の最終コミットは 2026年9月12日 です。
- self-llm は何に使えますか?
- 有料APIを使わずにQwenやInternLMをローカルで動かしたい学生。 ドメイン固有のデータセットを使い、オープンモデルをLoRAでファインチューニングする方法を学びたい開発者。 AMDまたはAscendのハードウェア上でオープンLLMをセットアップしたい研究者。 ローカルモデルとLangChainを使って、社内向けのナレッジアシスタントを構築するチーム。
- self-llm のインストール方法は?
- リポジトリをクローンする: git clone https://github.com/datawhalechina/self-llm.git 対応モデルの一覧があるチュートリアルのインデックスを開き、一般的な環境構築ガイドに従う
- self-llm はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/datawhalechina/self-llm
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
エクスポートしたチャット履歴でLLMをファインチューニングし、自分らしい応答をするチャットボットとして各種サービスに展開
小規模なLLaMA2風モデルをゼロから構築し、Transformer、事前学習、ファインチューニング、RAG、エージェントを通じてLLMの原理を学ぶ、中国語のオープンチュートリアル。
ゼロコードのCLIとWeb UIで、100種類以上のLLMやVLMを効率よくファインチューニングできる統合フレームワーク。
量子化なしで、レイヤー単位に大規模言語モデルを実行し、70Bクラスのモデルを4GB GPU 1枚で推論できるPythonライブラリ。
センチメント分析、予測、金融NLPベンチマークなどの金融タスク向けにファインチューニングされた、オープンソースの大規模言語モデル。