Repolode
投稿する
rafska

rafska/awesome-local-llm

ローカルでLLMを動かすためのプラットフォーム、エンジン、UI、モデル、ツール、チュートリアルを集めた厳選リスト。

GitHub で見る
スター
2,984
フォーク
498
未解決の Issue
234
最終コミット
3 日前

これは何？

awesome-local-llmは、ホスト型APIを使わず、自分のハードウェアで大規模言語モデルを動かすためのリソースを集めた厳選リストです。Ollama、llama.cpp、vLLMなどの推論プラットフォームやエンジン、Open WebUIやSillyTavernなどのユーザーインターフェース、Qwen、Mistral、Gemma、NVIDIAなどが提供するオープンウェイトモデルのコレクションといったカテゴリに分かれています。

ソフトウェア以外にも、モデルのリーダーボードやベンチマーク、エージェントフレームワーク、Model Context Protocolツール、検索拡張生成（RAG）のコンポーネント、ハードウェアに関するガイド、プロンプトエンジニアリングやコンテキストエンジニアリング、推論のチュートリアルを掲載しています。各項目からプロジェクトのページやHugging Faceのコレクションに直接アクセスでき、簡潔な説明を参考にツールをすばやく選べます。

主な機能

  • 01Ollama、llama.cpp、vLLMやMLXベースのツールなどの推論エンジンを紹介
  • 02ローカルモデルとのチャットに使えるデスクトップおよびWebのユーザーインターフェースを掲載
  • 03コーディング、画像認識、音声など、用途別に分類したオープンウェイトモデルのファミリーを収録
  • 04ローカル環境向けのエージェントフレームワーク、RAGコンポーネント、MCPツールを掲載
  • 05ベンチマーク、リーダーボード、ハードウェア情報、チュートリアルを提供

ユースケース

  • ローカルLLMをセットアップする前に、推論エンジンやチャット用インターフェースを選ぶ
  • コーディング、画像認識、音声のタスクに適したオープンウェイトモデルを探す
  • セルフホスト型モデルで使えるエージェントフレームワークやRAGツールを見つける
  • 掲載されているチュートリアルを通じて、ローカルLLMの活用方法を学ぶ

トピック

#llm#local-llm#awesome-list#self-hosted#inference#open-weight-models#ai-tools#ai#awesome#local

よくある質問

awesome-local-llm とは？
ローカルでLLMを動かすためのプラットフォーム、エンジン、UI、モデル、ツール、チュートリアルを集めた厳選リスト。 awesome-local-llmは、ホスト型APIを使わず、自分のハードウェアで大規模言語モデルを動かすためのリソースを集めた厳選リストです。Ollama、llama.cpp、vLLMなどの推論プラットフォームやエンジン、Open WebUIやSillyTavernなどのユーザーインターフェース、Qwen、Mistral、Gemma、NVIDIAなどが提供するオープンウェイトモデルのコレクションといったカテゴリに分かれています。
awesome-local-llm は無料で使えますか？ライセンスは？
awesome-local-llm は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
awesome-local-llm は今もメンテナンスされていますか？
活発にメンテナンス中。awesome-local-llm の最終コミットは 2026年10月17日 です。
awesome-local-llm は何に使えますか？
ローカルLLMをセットアップする前に、推論エンジンやチャット用インターフェースを選ぶ コーディング、画像認識、音声のタスクに適したオープンウェイトモデルを探す セルフホスト型モデルで使えるエージェントフレームワークやRAGツールを見つける 掲載されているチュートリアルを通じて、ローカルLLMの活用方法を学ぶ
awesome-local-llm はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/rafska/awesome-local-llm

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト