Repolode
投稿する
0xSojalSec

0xSojalSec/LLMs-local

手元のハードウェアでLLMを動かすためのプラットフォーム、エンジン、UI、モデル、ツール、チュートリアルをまとめた厳選リスト。

GitHub で見る
スター
1,198
フォーク
138
未解決の Issue
12
最終コミット
4 か月前

これは何？

LLMs-localは、ホスト型APIを利用するのではなく、自分のマシンで大規模言語モデルを実行するためのリソースを厳選してまとめたリストです。推論プラットフォームやエンジン、ユーザーインターフェース、特定のオープンウェイトモデル、エージェントフレームワーク、Model Context Protocolサーバー、検索拡張生成、コーディングエージェント、メモリレイヤー、評価ツール、ハードウェア、チュートリアルなどのセクションに分かれています。

Ollama、llama.cpp、vLLM、LM Studio、Open WebUIなどのプロジェクトへのリンクが、それぞれの簡潔な説明とともに掲載されています。モデルプロバイダーやベンチマークのリーダーボードも紹介されているため、構成を選ぶ前に各選択肢を比較できます。

このリポジトリはソフトウェアパッケージではなくリンク集なので、インストールや実行が必要な独自のコードはありません。

主な機能

  • 01llama.cpp、Ollama、vLLM、MLX-LMなどのローカル推論エンジンを、簡潔な説明とともに紹介しています。
  • 02Open WebUI、LM Studio風のクライアント、SillyTavernなどのチャット用フロントエンドをまとめています。
  • 03ローカルモデルで使えるエージェントフレームワーク、MCPサーバー、RAGツールを紹介しています。
  • 04ハードウェアに関する情報や、プロンプト、コンテキスト、推論に関するチュートリアルを掲載しています。

ユースケース

  • 個人のコンピューターでモデルを実行するための推論エンジンやデスクトップアプリを選ぶ。
  • オープンウェイトモデルと組み合わせるローカルチャットUIやコーディングアシスタントを探す。
  • ローカル環境を構築する前に、利用できるオープンモデルやベンチマークを調べる。

使う前に知っておきたいこと

  • ライセンスが指定されていないため、再利用条件が不明です。

トピック

#llm#local-llm#inference#awesome-list#ai-tools#open-source-models

よくある質問

LLMs-local とは？
手元のハードウェアでLLMを動かすためのプラットフォーム、エンジン、UI、モデル、ツール、チュートリアルをまとめた厳選リスト。 LLMs-localは、ホスト型APIを利用するのではなく、自分のマシンで大規模言語モデルを実行するためのリソースを厳選してまとめたリストです。推論プラットフォームやエンジン、ユーザーインターフェース、特定のオープンウェイトモデル、エージェントフレームワーク、Model Context Protocolサーバー、検索拡張生成、コーディングエージェント、メモリレイヤー、評価ツール、ハードウェア、チュートリアルなどのセクションに分かれています。
LLMs-local は無料で使えますか？ライセンスは？
LLMs-local にはライセンスが明記されていません。コードは公開されていますが、ライセンスがない場合は再利用の許諾がないため、利用前に作者に確認することをおすすめします。
LLMs-local は今もメンテナンスされていますか？
半年以内に更新あり。LLMs-local の最終コミットは 2026年6月10日 です。
LLMs-local は何に使えますか？
個人のコンピューターでモデルを実行するための推論エンジンやデスクトップアプリを選ぶ。 オープンウェイトモデルと組み合わせるローカルチャットUIやコーディングアシスタントを探す。 ローカル環境を構築する前に、利用できるオープンモデルやベンチマークを調べる。
LLMs-local はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/0xSojalSec/LLMs-local

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト