Repolode
Enviar
labring

labring/aiproxy

Um gateway de IA escrito em Go que oferece endpoints compatíveis com OpenAI, Claude e Gemini e distribui solicitações entre vários canais de modelos upstream.

Alternativa open source a:OpenRouter

Ver no GitHub
Estrelas
564
Forks
117
Issues abertas
17
Último commit
há 10 dias

O que é?

O AI Proxy é um gateway entre suas aplicações e os provedores de modelos de IA. Os clientes enviam solicitações usando os protocolos OpenAI Chat Completions, Claude Messages ou Gemini, e o proxy as encaminha para canais upstream configurados, com seleção por prioridade, novas tentativas em caso de erro e balanceamento de carga entre provedores.

Além do roteamento, o projeto inclui gerenciamento multi-tenant com cotas por grupo, limites de RPM e TPM, preços personalizados por modelo e controle de acesso baseado em tokens com restrições de sub-rede. Um painel de gerenciamento exibe dashboards, logs de solicitações, taxas de erro e análise de custos, além de enviar alertas sobre saldos baixos e anomalias.

O projeto também inclui plugins para cache de respostas (Redis ou memória), busca na web via Google, Bing e Arxiv, separação do conteúdo de raciocínio em tags <think> e streaming interno para solicitações sem streaming, evitando timeouts. Também oferece integração com servidores MCP e conversão de protocolo para a Responses API.

Recursos principais

  • 01Aceita os protocolos OpenAI, Claude e Gemini e converte para a Responses API em modelos compatíveis apenas com respostas
  • 02Seleção de canais por prioridade, com novas tentativas e balanceamento de carga entre provedores
  • 03Grupos multi-tenant com limites de RPM/TPM, cotas e preços personalizados por modelo
  • 04Painel de gerenciamento com logs de solicitações, análise de taxas de erro e estatísticas de custos
  • 05Plugins para cache, busca na web, separação do conteúdo de raciocínio e fallback para streaming

Casos de uso

  • Oferecer às aplicações internas um único endpoint no estilo OpenAI que dê acesso a vários provedores de modelos
  • Permitir que ferramentas como Claude Code, Gemini CLI ou Codex usem modelos de outros provedores por meio de um proxy local
  • Gerenciar o acesso à API, as cotas e o faturamento de várias equipes ou clientes em um único gateway

Início rápido

  1. 1

    Execute o AI Proxy com Docker (configuração padrão)

    docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest
  2. 2

    Abra o painel de gerenciamento e o explorador de API em localhost:3000 (Swagger está em /swagger/index.html)

Antes de usar

  • Para compilar a partir do código-fonte, é necessário Go 1.24 ou superior e, para o frontend opcional, Node.js 22 ou superior.
  • A configuração depende de muitas variáveis de ambiente, então a configuração inicial exige algum esforço.

Tópicos

#ai-gateway#llm#openai-compatible#llm-proxy#load-balancing#mcp#multi-tenant#golang

Perguntas frequentes

O que é aiproxy?
Um gateway de IA escrito em Go que oferece endpoints compatíveis com OpenAI, Claude e Gemini e distribui solicitações entre vários canais de modelos upstream. O AI Proxy é um gateway entre suas aplicações e os provedores de modelos de IA. Os clientes enviam solicitações usando os protocolos OpenAI Chat Completions, Claude Messages ou Gemini, e o proxy as encaminha para canais upstream configurados, com seleção por prioridade, novas tentativas em caso de erro e balanceamento de carga entre provedores.
aiproxy é gratuito? Qual é a licença?
aiproxy é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
aiproxy ainda é mantido?
Manutenção ativa. O último commit de aiproxy foi em 12 de out. de 2026.
Para que posso usar aiproxy?
Oferecer às aplicações internas um único endpoint no estilo OpenAI que dê acesso a vários provedores de modelos Permitir que ferramentas como Claude Code, Gemini CLI ou Codex usem modelos de outros provedores por meio de um proxy local Gerenciar o acesso à API, as cotas e o faturamento de várias equipes ou clientes em um único gateway
Como instalar aiproxy?
Execute o AI Proxy com Docker (configuração padrão): docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest Abra o painel de gerenciamento e o explorador de API em localhost:3000 (Swagger está em /swagger/index.html)
Onde consigo aiproxy?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/labring/aiproxy

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados