Repolode
looplj

looplj/axonhub

OpenAIやAnthropicのSDKからコードを変更せずに100以上のLLMプロバイダーを利用できる、フェイルオーバー、負荷分散、コスト追跡機能を備えたオープンソースAIゲートウェイ。

代替できる製品:OpenRouter

スター
5,379
フォーク
738
未解決の Issue
97
最終コミット
10 時間前

これは何?

AxonHubは、アプリケーションとモデルプロバイダーの間に位置するAIゲートウェイです。アプリケーションは既存のOpenAI、AnthropicなどのAI SDKをそのまま使い、AxonHubが各リクエストを接続先プロバイダーに適した形式へ変換します。GPT-4からClaudeやGeminiへの切り替えは、クライアントコードを書き換えず、設定だけで行えます。

プロトコル変換に加えて、チャネル間の自動フェイルオーバーと負荷分散、詳細なタイムラインを備えたリクエスト単位のトレース、入力・出力・キャッシュされたトークン数を追跡して各呼び出しのコストを表示する機能など、運用に役立つ機能も提供します。また、チーム向けのロールベースアクセス制御、利用量クォータ、データ分離にも対応しています。

このゲートウェイは、テキスト生成、画像生成、embedding、rerankの各APIに対応しています。プロバイダーにはOpenAI、Anthropic、Gemini、DeepSeek、Zhipu、Moonshot、Doubao、OpenRouterなどが含まれ、Dockerでデプロイできます。Goで実装されており、ライセンスはApache-2.0(一部コンポーネントはLGPL-3.0)です。

主な機能

  • 01既存のSDKを使い、単一のエンドポイントからOpenAI、Anthropic、Gemini形式のAPIを呼び出せます。
  • 02設定したチャネル間で自動フェイルオーバーと負荷分散を行います。
  • 03デバッグに役立つタイムライン付きのリクエスト単位トレースに対応しています。
  • 04入力・出力・キャッシュされたトークンのコストを追跡できます。
  • 05ロールベースアクセス制御、クォータ、データ分離に対応しています。
  • 06チャット、画像生成、embedding、rerankの各APIに対応しています。

ユースケース

  • アプリケーションコードを変更せずにLLMプロバイダーを切り替えたいチーム。
  • 複数ユーザー向けの利用量クォータ、コストの可視化、アクセス制御が必要なプラットフォーム。
  • モデルプロバイダーが利用できない場合に自動フェイルオーバーが必要なアプリケーション。
  • Claude CodeやCodexなどのAIコーディングツールを、共有ゲートウェイ経由で利用する開発者。

クイックスタート

  1. 1

    エージェントに deploy-axonhub スキルを実行させて AxonHub をデプロイします

  2. 2

    AxonHub の URL を開いて管理者アカウントを作成し、プロバイダーの API キーを使ってチャネルを追加します

  3. 3

    クライアント用の AxonHub API キーを「API Keys」セクションで作成します

  4. 4

    OpenAI SDK の接続先を http://localhost:8090/v1 に設定し、最初のチャットリクエストを送信します

使う前に知っておきたいこと

  • README に直接実行できるインストールコマンドはありません。デプロイ方法はエージェントスキルを使う形で説明されています。
  • 各上流モデルプロバイダーの API キーは自分で用意する必要があります。
  • AWS Bedrock と Google Cloud のサポートは、まだテスト中と記載されています。

トピック

よくある質問

axonhub とは?
OpenAIやAnthropicのSDKからコードを変更せずに100以上のLLMプロバイダーを利用できる、フェイルオーバー、負荷分散、コスト追跡機能を備えたオープンソースAIゲートウェイ。 AxonHubは、アプリケーションとモデルプロバイダーの間に位置するAIゲートウェイです。アプリケーションは既存のOpenAI、AnthropicなどのAI SDKをそのまま使い、AxonHubが各リクエストを接続先プロバイダーに適した形式へ変換します。GPT-4からClaudeやGeminiへの切り替えは、クライアントコードを書き換えず、設定だけで行えます。
axonhub は無料で使えますか?ライセンスは?
axonhub は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
axonhub は今もメンテナンスされていますか?
活発にメンテナンス中。axonhub の最終コミットは 2026年10月21日 です。
axonhub は何に使えますか?
アプリケーションコードを変更せずにLLMプロバイダーを切り替えたいチーム。 複数ユーザー向けの利用量クォータ、コストの可視化、アクセス制御が必要なプラットフォーム。 モデルプロバイダーが利用できない場合に自動フェイルオーバーが必要なアプリケーション。 Claude CodeやCodexなどのAIコーディングツールを、共有ゲートウェイ経由で利用する開発者。
axonhub のインストール方法は?
エージェントに deploy-axonhub スキルを実行させて AxonHub をデプロイします AxonHub の URL を開いて管理者アカウントを作成し、プロバイダーの API キーを使ってチャネルを追加します クライアント用の AxonHub API キーを「API Keys」セクションで作成します OpenAI SDK の接続先を http://localhost:8090/v1 に設定し、最初のチャットリクエストを送信します
axonhub はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/looplj/axonhub

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト