Azure-Samples/AI-Gateway

Что это?

Ключевые возможности

• 01Практические ноутбуки со сценариями шлюза для моделей, инструментов и агентов
• 02Шаблоны Bicep и XML-политики APIM для развертывания в Azure
• 03Примеры ограничения частоты запросов по токенам, семантического кэширования и балансировки нагрузки между бэкендами
• 04Доступ к MCP-серверам через OAuth и сценарии авторизации клиентов
• 05Утилиты для разработчиков, включая mock-сервер OpenAI API и тестер ограничения частоты запросов

Сценарии использования

• Настройка ограничения частоты запросов и контроля затрат перед предоставлением внутренним командам доступа к API LLM
• Подключение инструментов MCP к агентам с централизованным управлением учетными данными OAuth
• Оценка семантического кэширования или маршрутизации между несколькими бэкендами для развертываний Azure OpenAI
• Изучение способов управления AI-агентами и инструментами с помощью корпоративного API-шлюза

Быстрый старт

1. 1

   Установите uv (Linux/macOS) с помощью официального скрипта установки из README.

2. 2

   Клонируйте репозиторий.

   git clone https://github.com/Azure-Samples/AI-Gateway.git
3. 3

   Перейдите в папку проекта и создайте виртуальное окружение с зависимостями.

   cd AI-Gateway && uv sync
4. 4

   Откройте VS Code и запустите лабораторный ноутбук, выбрав ядро .venv.

   code .

Что важно знать

• !Лабораторные работы разворачивают ресурсы в подписке Azure, поэтому нужна учетная запись Azure с ролями Contributor и RBAC Administrator.
• !Требуются Azure CLI и VS Code с расширением Jupyter.
• !Лабораторные работы предназначены только для Azure и не являются автономным облачно-независимым шлюзом.

В подборках

Темы

Частые вопросы

Что такое AI-Gateway?

Подборка практических Jupyter-лабораторных работ по управлению AI-моделями, инструментами MCP и агентами через AI Gateway в Azure API Management. AI Gateway Labs — это набор практических Jupyter-ноутбуков, которые показывают, как разместить Azure API Management перед AI-моделями, инструментами и агентами. В каждой лабораторной работе есть пошаговые инструкции, шаблоны инфраструктуры Bicep и политики APIM, которые можно развернуть в подписке Azure.

AI-Gateway можно использовать бесплатно? Какая у него лицензия?

AI-Gateway распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.

AI-Gateway всё ещё поддерживается?

Активно поддерживается. Последний коммит в AI-Gateway — 5 нояб. 2026 г..

Для чего можно использовать AI-Gateway?

Настройка ограничения частоты запросов и контроля затрат перед предоставлением внутренним командам доступа к API LLM Подключение инструментов MCP к агентам с централизованным управлением учетными данными OAuth Оценка семантического кэширования или маршрутизации между несколькими бэкендами для развертываний Azure OpenAI Изучение способов управления AI-агентами и инструментами с помощью корпоративного API-шлюза

Как установить AI-Gateway?

Установите uv (Linux/macOS) с помощью официального скрипта установки из README. Клонируйте репозиторий.: git clone https://github.com/Azure-Samples/AI-Gateway.git Перейдите в папку проекта и создайте виртуальное окружение с зависимостями.: cd AI-Gateway && uv sync Откройте VS Code и запустите лабораторный ноутбук, выбрав ядро .venv.: code .

Где скачать AI-Gateway?

Исходный код и инструкции по установке — на GitHub: https://github.com/Azure-Samples/AI-Gateway