oobabooga/textgen

これは何？

主な機能

• 01Jinja2プロンプトテンプレートに対応したチャット、指示、キャラクターモード
• 02画像認識入力に加え、PDF、.docx、テキストファイルを添付可能
• 03llama.cpp、Transformers、ExLlamaV3など複数のバックエンドに対応
• 04ツール呼び出しに対応したOpenAI／Anthropic互換API
• 05独自のPython関数やMCPサーバーを使ったツール呼び出し
• 06LoRAファインチューニングとdiffusersベースの画像生成タブ

ユースケース

• クラウドサービスにデータを送信せず、個人のコンピューター上でGGUFチャットモデルをプライベートに実行する
• 開発中に既存のOpenAIまたはAnthropicクライアントコードからローカルモデルへ接続する
• ローカルの画像認識対応モデルを使って、ドキュメントや画像についてチャットする
• 独自のチャットまたはテキストデータセットでLoRAアダプターをファインチューニングする

クイックスタート

1. 1

   リリースページから、お使いのOS向けのポータブル版をダウンロードします

2. 2

   ダウンロードしたファイルを解凍し、textgenをダブルクリックしてアプリのウィンドウを開きます

3. 3

   GGUFモデルファイルをuser_data/modelsフォルダーに置くと、UIが自動的に検出します

使う前に知っておきたいこと

• !AGPL-3.0ライセンス（コピーレフト）で提供されており、派生するネットワークサービスにはソースコードの公開が求められます。
• !ExLlamaV3やTransformersなどの追加バックエンド、トレーニング、画像生成を利用するにはフルインストールが必要です。約10GBのディスク容量を使い、PyTorchをダウンロードします。
• !ポータブル版で対応しているのはGGUF（llama.cpp）モデルのみです。

トピック

よくある質問

textgen とは？

大規模言語モデルをローカルで実行できる、チャットUIとOpenAI／Anthropic互換APIを備えた無料のオープンソースデスクトップアプリ。 TextGenは、大規模言語モデルを自分のマシンで実行するためのデスクトップアプリです。チャットインターフェースとAPIをまとめて備えているため、同じローカルモデルをブラウザー風のUIからもコードからも利用できます。Linux、Windows、macOS向けのポータブル版が用意されており、CUDA、Vulkan、ROCm、CPUのみの構成を選べます。また、llama.cpp経由でGGUFモデルを実行します。ExLlamaV3、Transformers、TensorRT-LLMなどの追加バックエンドは、フルインストールで利用できます。

textgen は無料で使えますか？ライセンスは？

textgen は AGPL-3.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

textgen は今もメンテナンスされていますか？

半年以内に更新あり。textgen の最終コミットは 2026年8月17日 です。

textgen は何に使えますか？

クラウドサービスにデータを送信せず、個人のコンピューター上でGGUFチャットモデルをプライベートに実行する 開発中に既存のOpenAIまたはAnthropicクライアントコードからローカルモデルへ接続する ローカルの画像認識対応モデルを使って、ドキュメントや画像についてチャットする 独自のチャットまたはテキストデータセットでLoRAアダプターをファインチューニングする

textgen のインストール方法は？

リリースページから、お使いのOS向けのポータブル版をダウンロードします ダウンロードしたファイルを解凍し、textgenをダブルクリックしてアプリのウィンドウを開きます GGUFモデルファイルをuser_data/modelsフォルダーに置くと、UIが自動的に検出します

textgen はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/oobabooga/textgen