Acelerador de solução Azure para um gateway central de API de IA baseado no Azure API Management, que governa e monitora o acesso a LLMs entre equipes.
325+3 esta semana214Jupyter NotebookMITAtualizado há 11 dias
Azure-Samples/AI-Gateway
Coleção de labs práticos em Jupyter para gerenciar modelos de IA, ferramentas MCP e agentes pelo AI Gateway do Azure API Management.
- Estrelas
- 1,008
- Forks
- 520
- Issues abertas
- 84
- Último commit
- anteontem
O que é?
AI Gateway Labs é um conjunto de notebooks Jupyter práticos que mostram como posicionar o Azure API Management na frente de modelos de IA, ferramentas e agentes. Cada lab inclui instruções passo a passo, templates de infraestrutura em Bicep e políticas do APIM que podem ser implantadas em uma assinatura do Azure.
Os labs abrangem três áreas. Para modelos, demonstram balanceamento de carga entre backends, limitação da taxa de tokens, cache semântico, roteamento de modelos e uma estrutura de orçamento FinOps. Para ferramentas, abordam acesso a servidores MCP com OAuth, autorização de clientes MCP, chamadas de função com Azure Functions e áudio em tempo real combinado com MCP. Para agentes, incluem exemplos com Foundry Agent Service, OpenAI Agents SDK, Gemini com MCP e agentes compatíveis com A2A.
O repositório também inclui utilitários para desenvolvedores, como uma ferramenta de tracing, um testador de streaming, um testador de limite de taxa, um servidor simulado da OpenAI API e um cliente OAuth, além de skills de agentes do Copilot para gerar novos labs.
Recursos principais
- 01Notebooks práticos que abrangem cenários de gateway para modelos, ferramentas e agentes
- 02Templates Bicep e XML de políticas do APIM para implantação no Azure
- 03Exemplos de limitação da taxa de tokens, cache semântico e balanceamento de carga entre backends
- 04Acesso a servidores MCP com OAuth e fluxos de autorização de clientes
- 05Utilitários para desenvolvedores, incluindo um servidor simulado da OpenAI API e um testador de limite de taxa
Casos de uso
- Adicionar limites de taxa e controles de custos antes de disponibilizar APIs de LLM para equipes internas
- Conectar ferramentas MCP a agentes com gerenciamento centralizado de credenciais OAuth
- Avaliar cache semântico ou roteamento entre vários backends em implantações do Azure OpenAI
- Aprender a governar agentes e ferramentas de IA com um gateway de API corporativo
Início rápido
- 1
Instale o uv (Linux/macOS) usando o script oficial de instalação indicado no README.
- 2
Clone o repositório.
git clone https://github.com/Azure-Samples/AI-Gateway.git - 3
Acesse a pasta do projeto e crie o ambiente virtual com as dependências.
cd AI-Gateway && uv sync - 4
Abra o VS Code e inicie um notebook de laboratório selecionando o kernel .venv.
code .
Antes de usar
- Os laboratórios implantam recursos em uma assinatura do Azure, portanto é necessária uma conta do Azure com as funções Contributor e RBAC Administrator.
- É necessário ter o Azure CLI e o VS Code com a extensão Jupyter.
- Os laboratórios são específicos do Azure e não são um gateway independente e agnóstico em relação à nuvem.
Em coleções
Tópicos
#api-gateway#azure-api-management#llm#mcp#ai-agents#rate-limiting#semantic-caching#jupyter#a2a#agents
Perguntas frequentes
- O que é AI-Gateway?
- Coleção de labs práticos em Jupyter para gerenciar modelos de IA, ferramentas MCP e agentes pelo AI Gateway do Azure API Management. AI Gateway Labs é um conjunto de notebooks Jupyter práticos que mostram como posicionar o Azure API Management na frente de modelos de IA, ferramentas e agentes. Cada lab inclui instruções passo a passo, templates de infraestrutura em Bicep e políticas do APIM que podem ser implantadas em uma assinatura do Azure.
- AI-Gateway é gratuito? Qual é a licença?
- AI-Gateway é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- AI-Gateway ainda é mantido?
- Manutenção ativa. O último commit de AI-Gateway foi em 5 de nov. de 2026.
- Para que posso usar AI-Gateway?
- Adicionar limites de taxa e controles de custos antes de disponibilizar APIs de LLM para equipes internas Conectar ferramentas MCP a agentes com gerenciamento centralizado de credenciais OAuth Avaliar cache semântico ou roteamento entre vários backends em implantações do Azure OpenAI Aprender a governar agentes e ferramentas de IA com um gateway de API corporativo
- Como instalar AI-Gateway?
- Instale o uv (Linux/macOS) usando o script oficial de instalação indicado no README. Clone o repositório.: git clone https://github.com/Azure-Samples/AI-Gateway.git Acesse a pasta do projeto e crie o ambiente virtual com as dependências.: cd AI-Gateway && uv sync Abra o VS Code e inicie um notebook de laboratório selecionando o kernel .venv.: code .
- Onde consigo AI-Gateway?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/Azure-Samples/AI-Gateway
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Extensão open source do JupyterLab que adiciona uma interface de chat para conectar agentes de IA, como Claude, Codex e Gemini, aos notebooks.
4,4 mil+8 esta semana541PythonBSD-3-ClauseAtualizado há 14 horas
Toolkit Go code-first para criar, avaliar e implantar agentes de IA, com composição multiagente e integração de ferramentas.
8,9 mil+32 esta semana992GoApache-2.0Atualizado há 3 horas
Coleção com mais de 50 tutoriais executáveis em notebooks Jupyter sobre técnicas para agentes de GenAI, de chatbots simples a sistemas multiagentes.
24,9 mil+111 esta semana4,2 milJupyter NotebookOtherBem mantidoAtualizado há 6 dias
Gateway de API open source que encaminha solicitações a LLMs para vários provedores por uma interface compatível com a OpenAI, com gerenciamento de chaves e análise de uso.
1,7 mil+8 esta semana201TypeScriptOtherAtualizado há 23 horas
Gateway de API e IA open source em Go que faz proxy de tráfego REST, GraphQL, TCP, gRPC e MCP, com autenticação, limitação de taxa e analytics.
10,9 mil+7 esta semana1,2 milGoOtherAtualizado há 23 horas