Acelerador de soluciones de Azure para una API gateway central de IA basada en Azure API Management, que gobierna y permite observar el acceso a LLM entre equipos.
Azure-Samples/AI-Gateway
Colección de laboratorios prácticos de Jupyter para gestionar modelos de IA, herramientas MCP y agentes mediante AI Gateway de Azure API Management.
- Estrellas
- 1,008
- Forks
- 520
- Issues abiertos
- 84
- Último commit
- anteayer
¿Qué es?
AI Gateway Labs es un conjunto de notebooks prácticos de Jupyter que muestran cómo colocar Azure API Management delante de modelos, herramientas y agentes de IA. Cada laboratorio incluye instrucciones paso a paso, plantillas de infraestructura Bicep y políticas de APIM que se pueden implementar en una suscripción de Azure.
Los laboratorios abarcan tres áreas. En modelos, muestran balanceo de carga entre backends, limitación de solicitudes por tokens, caché semántica, enrutamiento de modelos y un marco de FinOps para presupuestos. En herramientas, cubren el acceso a servidores MCP con OAuth, la autorización de clientes MCP, las llamadas a funciones con Azure Functions y el uso de audio en tiempo real combinado con MCP. En agentes, incluyen ejemplos con Foundry Agent Service, OpenAI Agents SDK, Gemini con MCP y agentes compatibles con A2A.
El repositorio también incluye utilidades para desarrolladores, como una herramienta de trazas, un comprobador de streaming, un comprobador de límites de solicitudes, un servidor simulado de OpenAI API y un cliente OAuth, además de habilidades de agente de Copilot para generar nuevos laboratorios.
Funciones clave
- 01Notebooks prácticos sobre escenarios de gateway para modelos, herramientas y agentes
- 02Plantillas Bicep y XML de políticas de APIM para implementar en Azure
- 03Ejemplos de limitación de solicitudes por tokens, caché semántica y balanceo de carga entre backends
- 04Acceso a servidores MCP con OAuth y flujos de autorización de clientes
- 05Utilidades para desarrolladores, como un servidor simulado de OpenAI API y un comprobador de límites de solicitudes
Casos de uso
- Añadir límites de solicitudes y controles de costos antes de exponer APIs de LLM a equipos internos
- Conectar herramientas MCP con agentes mediante una gestión centralizada de credenciales OAuth
- Evaluar la caché semántica o el enrutamiento entre varios backends en implementaciones de Azure OpenAI
- Aprender a gobernar agentes y herramientas de IA con un gateway de API empresarial
Inicio rápido
- 1
Instala uv (Linux/macOS) con el script oficial de instalación indicado en el README.
- 2
Clona el repositorio.
git clone https://github.com/Azure-Samples/AI-Gateway.git - 3
Ve a la carpeta del proyecto y crea el entorno virtual con las dependencias.
cd AI-Gateway && uv sync - 4
Abre VS Code e inicia un notebook de laboratorio seleccionando el kernel .venv.
code .
Antes de usarlo
- Los laboratorios implementan recursos en una suscripción de Azure, por lo que se necesita una cuenta de Azure con los roles Contributor y RBAC Administrator.
- Se requiere Azure CLI y VS Code con la extensión Jupyter.
- Los laboratorios son específicos de Azure y no constituyen una puerta de enlace independiente y agnóstica respecto a la nube.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es AI-Gateway?
- Colección de laboratorios prácticos de Jupyter para gestionar modelos de IA, herramientas MCP y agentes mediante AI Gateway de Azure API Management. AI Gateway Labs es un conjunto de notebooks prácticos de Jupyter que muestran cómo colocar Azure API Management delante de modelos, herramientas y agentes de IA. Cada laboratorio incluye instrucciones paso a paso, plantillas de infraestructura Bicep y políticas de APIM que se pueden implementar en una suscripción de Azure.
- ¿AI-Gateway es gratuito? ¿Qué licencia tiene?
- AI-Gateway es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿AI-Gateway sigue mantenido?
- Mantenimiento activo. El último commit de AI-Gateway fue el 5 nov 2026.
- ¿Para qué puedo usar AI-Gateway?
- Añadir límites de solicitudes y controles de costos antes de exponer APIs de LLM a equipos internos Conectar herramientas MCP con agentes mediante una gestión centralizada de credenciales OAuth Evaluar la caché semántica o el enrutamiento entre varios backends en implementaciones de Azure OpenAI Aprender a gobernar agentes y herramientas de IA con un gateway de API empresarial
- ¿Cómo se instala AI-Gateway?
- Instala uv (Linux/macOS) con el script oficial de instalación indicado en el README. Clona el repositorio.: git clone https://github.com/Azure-Samples/AI-Gateway.git Ve a la carpeta del proyecto y crea el entorno virtual con las dependencias.: cd AI-Gateway && uv sync Abre VS Code e inicia un notebook de laboratorio seleccionando el kernel .venv.: code .
- ¿Dónde consigo AI-Gateway?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Azure-Samples/AI-Gateway
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Una extensión open source de JupyterLab que añade una interfaz de chat para conectar agentes de IA, como Claude, Codex y Gemini, con los notebooks.
Kit de herramientas para Go con enfoque en el código, para crear, evaluar y desplegar agentes de IA, con composición multiagente e integración de herramientas.
Colección de más de 50 tutoriales ejecutables en Jupyter notebooks sobre técnicas para agentes de GenAI, desde chatbots simples hasta sistemas multiagente.
Gateway de API de código abierto que enruta solicitudes de LLM entre varios proveedores mediante una interfaz compatible con OpenAI, con gestión de claves y análisis de uso.
Gateway de API y AI de código abierto en Go que enruta tráfico REST, GraphQL, TCP, gRPC y MCP, con autenticación, límites de velocidad y analíticas.