Repolode
Azure-Samples

Azure-Samples/AI-Gateway

Azure API Management の AI Gateway を通じて、AI モデル、MCP ツール、エージェントを管理する実践的な Jupyter ラボ集。

スター
1,008
フォーク
520
未解決の Issue
84
最終コミット
一昨日

これは何?

AI Gateway Labs は、Azure API Management を AI モデル、ツール、エージェントの前段に配置する方法を紹介する、実践的な Jupyter ノートブック集です。各ラボには、手順ごとの説明、Bicep インフラストラクチャテンプレート、Azure サブスクリプションにデプロイできる APIM ポリシーが含まれています。

ラボは3つの領域を扱います。モデルでは、バックエンドプールの負荷分散、トークンレート制限、セマンティックキャッシュ、モデルルーティング、FinOps の予算管理フレームワークを紹介します。ツールでは、OAuth を使った MCP サーバーへのアクセス、MCP クライアントの認可、Azure Functions による function calling、MCP と組み合わせたリアルタイム音声を扱います。エージェントでは、Foundry Agent Service、OpenAI Agents SDK、MCP を使った Gemini、A2A 対応エージェントの例を紹介します。

このリポジトリには、トレーシングツール、ストリーミングテスター、レート制限テスター、OpenAI API モックサーバー、OAuth クライアントなどの開発者向けユーティリティに加え、新しいラボの生成に使える Copilot agent skills も含まれています。

主な機能

  • 01モデル、ツール、エージェントのゲートウェイ活用例を扱う実践的なノートブック
  • 02Azure へのデプロイに使える Bicep テンプレートと APIM ポリシー XML
  • 03トークンレート制限、セマンティックキャッシュ、バックエンド負荷分散の例
  • 04OAuth による MCP サーバーアクセスとクライアント認可フロー
  • 05OpenAI API モックサーバーやレート制限テスターなどの開発者向けユーティリティ

ユースケース

  • 社内チームに LLM API を公開する前に、レート制限やコスト管理を導入する
  • OAuth 認証情報を一元管理しながら、MCP ツールをエージェントに接続する
  • Azure OpenAI のデプロイで、セマンティックキャッシュや複数バックエンドへのルーティングを評価する
  • エンタープライズ API ゲートウェイで AI エージェントやツールを管理する方法を学ぶ

クイックスタート

  1. 1

    README に記載されている公式インストールスクリプトを使って uv をインストールする(Linux/macOS)

  2. 2

    リポジトリをクローンする

    git clone https://github.com/Azure-Samples/AI-Gateway.git
  3. 3

    プロジェクトフォルダーに移動し、依存関係を含む仮想環境を作成する

    cd AI-Gateway && uv sync
  4. 4

    VS Code を開き、.venv カーネルを選択してラボ用ノートブックを開始する

    code .

使う前に知っておきたいこと

  • ラボでは Azure サブスクリプションにリソースをデプロイするため、Contributor と RBAC Administrator ロールを持つ Azure アカウントが必要です。
  • Azure CLI と、Jupyter 拡張機能をインストールした VS Code が必要です。
  • ラボは Azure 専用であり、単独で動作するクラウド非依存のゲートウェイではありません。

収録されている特集

トピック

よくある質問

AI-Gateway とは?
Azure API Management の AI Gateway を通じて、AI モデル、MCP ツール、エージェントを管理する実践的な Jupyter ラボ集。 AI Gateway Labs は、Azure API Management を AI モデル、ツール、エージェントの前段に配置する方法を紹介する、実践的な Jupyter ノートブック集です。各ラボには、手順ごとの説明、Bicep インフラストラクチャテンプレート、Azure サブスクリプションにデプロイできる APIM ポリシーが含まれています。
AI-Gateway は無料で使えますか?ライセンスは?
AI-Gateway は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
AI-Gateway は今もメンテナンスされていますか?
活発にメンテナンス中。AI-Gateway の最終コミットは 2026年11月5日 です。
AI-Gateway は何に使えますか?
社内チームに LLM API を公開する前に、レート制限やコスト管理を導入する OAuth 認証情報を一元管理しながら、MCP ツールをエージェントに接続する Azure OpenAI のデプロイで、セマンティックキャッシュや複数バックエンドへのルーティングを評価する エンタープライズ API ゲートウェイで AI エージェントやツールを管理する方法を学ぶ
AI-Gateway のインストール方法は?
README に記載されている公式インストールスクリプトを使って uv をインストールする(Linux/macOS) リポジトリをクローンする: git clone https://github.com/Azure-Samples/AI-Gateway.git プロジェクトフォルダーに移動し、依存関係を含む仮想環境を作成する: cd AI-Gateway && uv sync VS Code を開き、.venv カーネルを選択してラボ用ノートブックを開始する: code .
AI-Gateway はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/Azure-Samples/AI-Gateway

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト