Repolode
labring

labring/aiproxy

OpenAI、Claude、Gemini互換エンドポイントを提供し、複数の上流モデルチャネルへリクエストを振り分けるGo製AIゲートウェイ。

代替できる製品:OpenRouter

スター
564
フォーク
117
未解決の Issue
17
最終コミット
10 日前

これは何?

AI Proxyは、アプリケーションとAIモデルプロバイダーの間に位置するゲートウェイです。クライアントはOpenAI Chat Completions、Claude Messages、Geminiの各プロトコルでリクエストを送信でき、プロキシは優先度に基づく選択、エラー時のリトライ、プロバイダー間のロードバランシングを行い、設定済みの上流チャネルへ転送します。

ルーティングに加え、テナントごとのグループ管理、グループ別クォータ、RPM・TPM制限、モデルごとのカスタム料金設定、サブネット制限付きのトークンベースアクセス制御を備えています。管理パネルではダッシュボード、リクエストログ、エラー率、コスト分析を確認でき、残高に関する警告や異常も通知します。

レスポンスキャッシュ(Redisまたはメモリ)、Google・Bing・Arxivを使ったWeb検索、<think>タグ内の推論内容の分離、タイムアウト回避のため非ストリーミングリクエストを内部的にストリーミング処理するプラグインも用意されています。MCPサーバー連携とResponses APIへのプロトコル変換にも対応しています。

主な機能

  • 01OpenAI、Claude、Geminiの各プロトコルを受け付け、responses-onlyモデル向けにResponses APIへ変換
  • 02優先度に基づくチャネル選択、リトライ、プロバイダー間のロードバランシング
  • 03RPM・TPM制限、クォータ、モデルごとのカスタム料金設定に対応したマルチテナントグループ
  • 04リクエストログ、エラー率分析、コスト統計を確認できる管理パネル
  • 05キャッシュ、Web検索、推論内容の分離、ストリーミングへのフォールバック用プラグイン

ユースケース

  • 複数のモデルプロバイダーの前段に、OpenAI形式のエンドポイントを1つ設けて社内アプリケーションに提供する
  • Claude Code、Gemini CLI、Codexなどのツールから、ローカルプロキシ経由で他社プロバイダーのモデルを利用する
  • 1つのゲートウェイで複数のチームや顧客のAPIアクセス、クォータ、課金を管理する

クイックスタート

  1. 1

    DockerでAI Proxyを起動する(デフォルト設定)

    docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest
  2. 2

    localhost:3000で管理パネルとAPIエクスプローラーを開く(Swaggerは/swagger/index.html)

使う前に知っておきたいこと

  • ソースからビルドするにはGo 1.24以降が必要です。オプションのフロントエンドにはNode.js 22以降も必要です。
  • 設定には多くの環境変数を使用するため、初期セットアップには多少手間がかかります。

トピック

よくある質問

aiproxy とは?
OpenAI、Claude、Gemini互換エンドポイントを提供し、複数の上流モデルチャネルへリクエストを振り分けるGo製AIゲートウェイ。 AI Proxyは、アプリケーションとAIモデルプロバイダーの間に位置するゲートウェイです。クライアントはOpenAI Chat Completions、Claude Messages、Geminiの各プロトコルでリクエストを送信でき、プロキシは優先度に基づく選択、エラー時のリトライ、プロバイダー間のロードバランシングを行い、設定済みの上流チャネルへ転送します。
aiproxy は無料で使えますか?ライセンスは?
aiproxy は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
aiproxy は今もメンテナンスされていますか?
活発にメンテナンス中。aiproxy の最終コミットは 2026年10月12日 です。
aiproxy は何に使えますか?
複数のモデルプロバイダーの前段に、OpenAI形式のエンドポイントを1つ設けて社内アプリケーションに提供する Claude Code、Gemini CLI、Codexなどのツールから、ローカルプロキシ経由で他社プロバイダーのモデルを利用する 1つのゲートウェイで複数のチームや顧客のAPIアクセス、クォータ、課金を管理する
aiproxy のインストール方法は?
DockerでAI Proxyを起動する(デフォルト設定): docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest localhost:3000で管理パネルとAPIエクスプローラーを開く(Swaggerは/swagger/index.html)
aiproxy はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/labring/aiproxy

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト