Repolode
tbphp

tbphp/gpt-load

複数のプロバイダーのAPIキーやサブスクリプションアカウントを単一のエンドポイントに集約し、スケジューリング、フェイルオーバー、利用ログを提供するセルフホスト型AIゲートウェイ。

代替できる製品:OpenRouter

スター
7,150
フォーク
812
未解決の Issue
10
最終コミット
23 時間前

これは何?

GPT-Loadは、アプリケーションと上流のAIサービスの間に置くセルフホスト型ゲートウェイです。アプリケーション側で必要なのは単一のベースURLとAccessKeyだけで、プロバイダー、アカウント、認証情報、モデル、ルーティングポリシーは組み込みの管理UIで設定できます。

OpenAI、Anthropic、Geminiのネイティブプロトコルでリクエストを受け付け、公式API、クラウドプラットフォーム、モデルサービス、互換リレーに転送します。APIキー型チャネルと、Codex、Claude、Antigravity、Grokなどのサブスクリプション型チャネルは、認証情報管理、スケジューリング、ヘルスチェックの仕組みを共有します。スケジューリングでは、重み付け、リトライ、クールダウン、ブラックリスト、セッションアフィニティに対応しています。

リクエストログ、ヘルスステータス、トークン使用量、コストの推定値を記録します。デフォルトではSQLiteで動作し、MySQLまたはPostgreSQLも利用できます。また、ローカルの認証情報は保存時に暗号化されます。

主な機能

  • 01OpenAI、Anthropic、Geminiのネイティブインターフェースに対応した単一のエントリーポイント。
  • 02APIキーとサブスクリプションの認証情報を、共通のスケジューリング機構で管理。
  • 03重み付け、リトライ、クールダウン、ブラックリストに対応した複数認証情報のスケジューリング。
  • 04組み込みUIでリクエストログ、ヘルス状況、利用量、コストの統計を確認。
  • 05デフォルトのSQLiteに加えて、MySQLとPostgreSQLにも対応。

ユースケース

  • 1つのプロバイダーの複数のAPIキーをプールし、負荷を分散してレート制限にも対応する。
  • グループやプロトコルの制限を設けながら、チーム内でアプリケーションごとに1つのAccessKeyを付与する。
  • Claude CodeやCodexのトラフィックを、利用状況を追跡しながらセルフホスト型ゲートウェイ経由でルーティングする。
  • アプリケーションのコードを変更せずに、公式APIと互換リレーを切り替える。

クイックスタート

  1. 1

    リポジトリをクローンします

    git clone --depth 1 https://github.com/tbphp/gpt-load.git
  2. 2

    プロジェクトディレクトリに移動し、環境設定テンプレートをコピーします

    cd gpt-load && cp .env.example .env
  3. 3

    Docker Composeでサービスを起動します

    docker compose up -d
  4. 4

    http://127.0.0.1:3001 を開き、コンテナから生成された管理キーを取得して、コンソールにサインインします

使う前に知っておきたいこと

  • 最も手早くセットアップするには、DockerとDocker Composeが必要です。
  • 1.xからのアップグレードはそのままでは行えません。2.0では1.xのデータを開いたり移行したりできません。
  • encryption.keyを紛失すると、保存されたチャンネルの認証情報を復元できません。また、マスターキーのローテーションには対応していません。

トピック

よくある質問

gpt-load とは?
複数のプロバイダーのAPIキーやサブスクリプションアカウントを単一のエンドポイントに集約し、スケジューリング、フェイルオーバー、利用ログを提供するセルフホスト型AIゲートウェイ。 GPT-Loadは、アプリケーションと上流のAIサービスの間に置くセルフホスト型ゲートウェイです。アプリケーション側で必要なのは単一のベースURLとAccessKeyだけで、プロバイダー、アカウント、認証情報、モデル、ルーティングポリシーは組み込みの管理UIで設定できます。
gpt-load は無料で使えますか?ライセンスは?
gpt-load は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
gpt-load は今もメンテナンスされていますか?
活発にメンテナンス中。gpt-load の最終コミットは 2026年10月20日 です。
gpt-load は何に使えますか?
1つのプロバイダーの複数のAPIキーをプールし、負荷を分散してレート制限にも対応する。 グループやプロトコルの制限を設けながら、チーム内でアプリケーションごとに1つのAccessKeyを付与する。 Claude CodeやCodexのトラフィックを、利用状況を追跡しながらセルフホスト型ゲートウェイ経由でルーティングする。 アプリケーションのコードを変更せずに、公式APIと互換リレーを切り替える。
gpt-load のインストール方法は?
リポジトリをクローンします: git clone --depth 1 https://github.com/tbphp/gpt-load.git プロジェクトディレクトリに移動し、環境設定テンプレートをコピーします: cd gpt-load && cp .env.example .env Docker Composeでサービスを起動します: docker compose up -d http://127.0.0.1:3001 を開き、コンテナから生成された管理キーを取得して、コンソールにサインインします
gpt-load はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/tbphp/gpt-load

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト