Azure API Managementを基盤とする中央AI APIゲートウェイのAzureソリューションアクセラレーター。チーム間のLLMアクセスを統制・可視化します。
Azure-Samples/AI-Gateway
Azure API Management の AI Gateway を通じて、AI モデル、MCP ツール、エージェントを管理する実践的な Jupyter ラボ集。
- スター
- 1,008
- フォーク
- 520
- 未解決の Issue
- 84
- 最終コミット
- 一昨日
これは何?
AI Gateway Labs は、Azure API Management を AI モデル、ツール、エージェントの前段に配置する方法を紹介する、実践的な Jupyter ノートブック集です。各ラボには、手順ごとの説明、Bicep インフラストラクチャテンプレート、Azure サブスクリプションにデプロイできる APIM ポリシーが含まれています。
ラボは3つの領域を扱います。モデルでは、バックエンドプールの負荷分散、トークンレート制限、セマンティックキャッシュ、モデルルーティング、FinOps の予算管理フレームワークを紹介します。ツールでは、OAuth を使った MCP サーバーへのアクセス、MCP クライアントの認可、Azure Functions による function calling、MCP と組み合わせたリアルタイム音声を扱います。エージェントでは、Foundry Agent Service、OpenAI Agents SDK、MCP を使った Gemini、A2A 対応エージェントの例を紹介します。
このリポジトリには、トレーシングツール、ストリーミングテスター、レート制限テスター、OpenAI API モックサーバー、OAuth クライアントなどの開発者向けユーティリティに加え、新しいラボの生成に使える Copilot agent skills も含まれています。
主な機能
- 01モデル、ツール、エージェントのゲートウェイ活用例を扱う実践的なノートブック
- 02Azure へのデプロイに使える Bicep テンプレートと APIM ポリシー XML
- 03トークンレート制限、セマンティックキャッシュ、バックエンド負荷分散の例
- 04OAuth による MCP サーバーアクセスとクライアント認可フロー
- 05OpenAI API モックサーバーやレート制限テスターなどの開発者向けユーティリティ
ユースケース
- 社内チームに LLM API を公開する前に、レート制限やコスト管理を導入する
- OAuth 認証情報を一元管理しながら、MCP ツールをエージェントに接続する
- Azure OpenAI のデプロイで、セマンティックキャッシュや複数バックエンドへのルーティングを評価する
- エンタープライズ API ゲートウェイで AI エージェントやツールを管理する方法を学ぶ
クイックスタート
- 1
README に記載されている公式インストールスクリプトを使って uv をインストールする(Linux/macOS)
- 2
リポジトリをクローンする
git clone https://github.com/Azure-Samples/AI-Gateway.git - 3
プロジェクトフォルダーに移動し、依存関係を含む仮想環境を作成する
cd AI-Gateway && uv sync - 4
VS Code を開き、.venv カーネルを選択してラボ用ノートブックを開始する
code .
使う前に知っておきたいこと
- ラボでは Azure サブスクリプションにリソースをデプロイするため、Contributor と RBAC Administrator ロールを持つ Azure アカウントが必要です。
- Azure CLI と、Jupyter 拡張機能をインストールした VS Code が必要です。
- ラボは Azure 専用であり、単独で動作するクラウド非依存のゲートウェイではありません。
収録されている特集
トピック
よくある質問
- AI-Gateway とは?
- Azure API Management の AI Gateway を通じて、AI モデル、MCP ツール、エージェントを管理する実践的な Jupyter ラボ集。 AI Gateway Labs は、Azure API Management を AI モデル、ツール、エージェントの前段に配置する方法を紹介する、実践的な Jupyter ノートブック集です。各ラボには、手順ごとの説明、Bicep インフラストラクチャテンプレート、Azure サブスクリプションにデプロイできる APIM ポリシーが含まれています。
- AI-Gateway は無料で使えますか?ライセンスは?
- AI-Gateway は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- AI-Gateway は今もメンテナンスされていますか?
- 活発にメンテナンス中。AI-Gateway の最終コミットは 2026年11月5日 です。
- AI-Gateway は何に使えますか?
- 社内チームに LLM API を公開する前に、レート制限やコスト管理を導入する OAuth 認証情報を一元管理しながら、MCP ツールをエージェントに接続する Azure OpenAI のデプロイで、セマンティックキャッシュや複数バックエンドへのルーティングを評価する エンタープライズ API ゲートウェイで AI エージェントやツールを管理する方法を学ぶ
- AI-Gateway のインストール方法は?
- README に記載されている公式インストールスクリプトを使って uv をインストールする(Linux/macOS) リポジトリをクローンする: git clone https://github.com/Azure-Samples/AI-Gateway.git プロジェクトフォルダーに移動し、依存関係を含む仮想環境を作成する: cd AI-Gateway && uv sync VS Code を開き、.venv カーネルを選択してラボ用ノートブックを開始する: code .
- AI-Gateway はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/Azure-Samples/AI-Gateway
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
Claude、Codex、GeminiなどのAIエージェントをノートブックに接続するチャットUIを追加する、オープンソースのJupyterLab拡張機能です。
AIエージェントの構築、評価、デプロイに使える、マルチエージェント構成とツール連携に対応したGo向けコードファーストなツールキット。
シンプルなチャットボットからマルチエージェントシステムまで、生成AIエージェントの手法を学べる実行可能なJupyter notebookチュートリアルを50本以上収録しています。
複数のプロバイダーにLLMリクエストを振り分ける、OpenAI互換インターフェースとキー管理・利用状況分析を備えたオープンソースAPIゲートウェイ。
Go製のオープンソースAPI・AIゲートウェイ。認証、レート制限、分析機能を備え、REST、GraphQL、TCP、gRPC、MCPのトラフィックをプロキシします。