Repolode
Enviar
tashfeenahmed

tashfeenahmed/freellmapi

Gateway compatível com OpenAI e hospedado por você, que reúne planos gratuitos de provedores de LLM em um único endpoint /v1, com roteamento e failover.

Alternativa open source a:OpenRouterLiteLLM

Ver no GitHubSite
Estrelas
38,952
Forks
5,249
Issues abertas
40
Último commit
há 7 horas

O que é?

O FreeLLMAPI é um gateway local que reúne os planos gratuitos de vários provedores de LLM e os disponibiliza em um único endpoint /v1 compatível com OpenAI. Você adiciona as chaves dos provedores no dashboard, e qualquer SDK da OpenAI ou cliente compatível pode enviar solicitações para uma única URL base. Um roteador escolhe um modelo disponível para cada solicitação e recorre ao próximo provedor quando um deles retorna um erro de limite de requisições ou do servidor.

As chaves dos provedores são armazenadas criptografadas no SQLite e descriptografadas em memória a cada solicitação. O app também monitora solicitações, tokens e limites de requisições por chave para que o roteamento respeite os limites dos planos gratuitos. Além disso, oferece endpoints de chat, embeddings, imagem, vídeo e fala, bem como interfaces compatíveis com Anthropic Messages, Gemini e Ollama para agentes de programação e CLIs. O roteador funciona no Node 20+ e é distribuído como imagem Docker, app para desktop e opção Premium, que adiciona um feed atualizado do catálogo de modelos.

Recursos principais

  • 01Um único endpoint /v1 compatível com OpenAI para várias chaves de provedores gratuitos
  • 02Failover automático para o próximo modelo quando houver respostas 429 ou 5xx
  • 03Monitoramento de RPM, RPD, TPM e TPD por chave para respeitar os limites dos planos gratuitos
  • 04Chaves dos provedores criptografadas em repouso com AES-256-GCM
  • 05Endpoints compatíveis com Anthropic, Gemini e Ollama para agentes de programação
  • 06Dashboard de administração com gerenciamento de chaves, playground e análises de uso

Casos de uso

  • Prototipar um app com vários LLMs sem pagar pelo uso da API
  • Conectar Claude Code, Codex CLI ou Aider a um conjunto de modelos gratuitos
  • Executar um gateway local pessoal que combine planos gratuitos na nuvem com modelos hospedados por você
  • Testar como diferentes provedores respondem à mesma solicitação no estilo OpenAI

Início rápido

  1. 1

    Baixe o aplicativo para desktop na página de releases (macOS ou Windows)

  2. 2

    Hospede por conta própria com Docker seguindo as instruções de Docker Compose no guia de instalação

Antes de usar

  • As instalações gratuitas recebem os novos modelos 30 dias depois que eles chegam ao feed premium ao vivo. O Premium é um plano pago que custa US$ 19 por ano.
  • Você precisa obter e adicionar suas próprias chaves de API de cada provedor gratuito que quiser usar.

Tópicos

#llm#openai-compatible#api-gateway#llm-routing#failover#free-tier#self-hosted#typescript

Perguntas frequentes

O que é freellmapi?
Gateway compatível com OpenAI e hospedado por você, que reúne planos gratuitos de provedores de LLM em um único endpoint /v1, com roteamento e failover. O FreeLLMAPI é um gateway local que reúne os planos gratuitos de vários provedores de LLM e os disponibiliza em um único endpoint /v1 compatível com OpenAI. Você adiciona as chaves dos provedores no dashboard, e qualquer SDK da OpenAI ou cliente compatível pode enviar solicitações para uma única URL base. Um roteador escolhe um modelo disponível para cada solicitação e recorre ao próximo provedor quando um deles retorna um erro de limite de requisições ou do servidor.
freellmapi é gratuito? Qual é a licença?
freellmapi é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
freellmapi ainda é mantido?
Manutenção ativa. O último commit de freellmapi foi em 21 de out. de 2026.
Para que posso usar freellmapi?
Prototipar um app com vários LLMs sem pagar pelo uso da API Conectar Claude Code, Codex CLI ou Aider a um conjunto de modelos gratuitos Executar um gateway local pessoal que combine planos gratuitos na nuvem com modelos hospedados por você Testar como diferentes provedores respondem à mesma solicitação no estilo OpenAI
Como instalar freellmapi?
Baixe o aplicativo para desktop na página de releases (macOS ou Windows) Hospede por conta própria com Docker seguindo as instruções de Docker Compose no guia de instalação
Onde consigo freellmapi?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/tashfeenahmed/freellmapi

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados