100以上のLLMプロバイダーを、OpenAI形式の単一インターフェースで呼び出せるオープンソースのAI GatewayとPython SDK。
labring/aiproxy
OpenAI、Claude、Gemini互換エンドポイントを提供し、複数の上流モデルチャネルへリクエストを振り分けるGo製AIゲートウェイ。
代替できる製品:OpenRouter
- スター
- 564
- フォーク
- 117
- 未解決の Issue
- 17
- 最終コミット
- 10 日前
これは何?
AI Proxyは、アプリケーションとAIモデルプロバイダーの間に位置するゲートウェイです。クライアントはOpenAI Chat Completions、Claude Messages、Geminiの各プロトコルでリクエストを送信でき、プロキシは優先度に基づく選択、エラー時のリトライ、プロバイダー間のロードバランシングを行い、設定済みの上流チャネルへ転送します。
ルーティングに加え、テナントごとのグループ管理、グループ別クォータ、RPM・TPM制限、モデルごとのカスタム料金設定、サブネット制限付きのトークンベースアクセス制御を備えています。管理パネルではダッシュボード、リクエストログ、エラー率、コスト分析を確認でき、残高に関する警告や異常も通知します。
レスポンスキャッシュ(Redisまたはメモリ)、Google・Bing・Arxivを使ったWeb検索、<think>タグ内の推論内容の分離、タイムアウト回避のため非ストリーミングリクエストを内部的にストリーミング処理するプラグインも用意されています。MCPサーバー連携とResponses APIへのプロトコル変換にも対応しています。
主な機能
- 01OpenAI、Claude、Geminiの各プロトコルを受け付け、responses-onlyモデル向けにResponses APIへ変換
- 02優先度に基づくチャネル選択、リトライ、プロバイダー間のロードバランシング
- 03RPM・TPM制限、クォータ、モデルごとのカスタム料金設定に対応したマルチテナントグループ
- 04リクエストログ、エラー率分析、コスト統計を確認できる管理パネル
- 05キャッシュ、Web検索、推論内容の分離、ストリーミングへのフォールバック用プラグイン
ユースケース
- 複数のモデルプロバイダーの前段に、OpenAI形式のエンドポイントを1つ設けて社内アプリケーションに提供する
- Claude Code、Gemini CLI、Codexなどのツールから、ローカルプロキシ経由で他社プロバイダーのモデルを利用する
- 1つのゲートウェイで複数のチームや顧客のAPIアクセス、クォータ、課金を管理する
クイックスタート
- 1
DockerでAI Proxyを起動する(デフォルト設定)
docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest - 2
localhost:3000で管理パネルとAPIエクスプローラーを開く(Swaggerは/swagger/index.html)
使う前に知っておきたいこと
- ソースからビルドするにはGo 1.24以降が必要です。オプションのフロントエンドにはNode.js 22以降も必要です。
- 設定には多くの環境変数を使用するため、初期セットアップには多少手間がかかります。
トピック
よくある質問
- aiproxy とは?
- OpenAI、Claude、Gemini互換エンドポイントを提供し、複数の上流モデルチャネルへリクエストを振り分けるGo製AIゲートウェイ。 AI Proxyは、アプリケーションとAIモデルプロバイダーの間に位置するゲートウェイです。クライアントはOpenAI Chat Completions、Claude Messages、Geminiの各プロトコルでリクエストを送信でき、プロキシは優先度に基づく選択、エラー時のリトライ、プロバイダー間のロードバランシングを行い、設定済みの上流チャネルへ転送します。
- aiproxy は無料で使えますか?ライセンスは?
- aiproxy は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- aiproxy は今もメンテナンスされていますか?
- 活発にメンテナンス中。aiproxy の最終コミットは 2026年10月12日 です。
- aiproxy は何に使えますか?
- 複数のモデルプロバイダーの前段に、OpenAI形式のエンドポイントを1つ設けて社内アプリケーションに提供する Claude Code、Gemini CLI、Codexなどのツールから、ローカルプロキシ経由で他社プロバイダーのモデルを利用する 1つのゲートウェイで複数のチームや顧客のAPIアクセス、クォータ、課金を管理する
- aiproxy のインストール方法は?
- DockerでAI Proxyを起動する(デフォルト設定): docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest localhost:3000で管理パネルとAPIエクスプローラーを開く(Swaggerは/swagger/index.html)
- aiproxy はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/labring/aiproxy
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
23以上のLLMプロバイダーに単一のOpenAI互換APIを提供し、フェイルオーバーや負荷分散などに対応するオープンソースAIゲートウェイ。
OpenAIやAnthropicのSDKからコードを変更せずに100以上のLLMプロバイダーを利用できる、フェイルオーバー、負荷分散、コスト追跡機能を備えたオープンソースAIゲートウェイ。
数百のモデルプロバイダーを単一のOpenAI互換エンドポイントで利用できる、セルフホスト対応のMITライセンスAIゲートウェイ。
OpenAI、Claude、Gemini互換APIを提供するセルフホスト型AIゲートウェイ。複数の上流モデルプロバイダーをルーティングし、APIキー、クォータ、コストを管理できます。
Envoyを基盤とするオープンソースのコントロールプレーン。ホスト型LLMプロバイダー、セルフホスト型推論、MCPサーバーを、アプリ向けの単一のOpenAI互換APIで利用できます。