Repolode
Enviar
iimeta

iimeta/fastapi

Gateway auto-hospedado que reúne vários provedores de LLM (OpenAI, Claude, Gemini, DeepSeek, Qwen e outros) em uma única API compatível com a OpenAI.

Ver no GitHubSite
Estrelas
304
Forks
44
Issues abertas
0
Último commit
há 6 horas

O que é?

O Fast API é um sistema de integração com APIs de LLM voltado para empresas e escrito em Go. Ele permite que sistemas corporativos acessem modelos de vários provedores, incluindo OpenAI, Azure, Anthropic Claude, Gemini, DeepSeek, Qwen, Baidu ERNIE, iFlytek Spark, Zhipu GLM, Doubao e Grok, por meio de um único endpoint compatível com a OpenAI. A integração é feita uma vez, e é possível trocar ou adicionar backends sem alterar o código dos sistemas clientes.

O projeto inclui um console web de administração, um portal do usuário e um portal para revendedores, para que os operadores gerenciem canais e contas pelo navegador. A implantação pode ser feita com Docker, e o README também menciona implantações em cluster e em várias regiões. Há logins de demonstração disponíveis para as edições comunitária e profissional.

O repositório principal contém o serviço de API; o frontend web, a interface de administração e o SDK ficam em repositórios separados da mesma organização.

Recursos principais

  • 01Um único endpoint de chat completions compatível com a OpenAI para vários provedores de LLM
  • 02Suporte a requisições em streaming no formato de requisição da OpenAI
  • 03Consoles web para administração, usuários e revendedores
  • 04Implantação com Docker em um comando, além de implantação em cluster ou em várias regiões

Casos de uso

  • Dar a uma aplicação acesso a vários provedores de LLM por meio de uma única API
  • Trocar ou adicionar backends de modelos sem alterar o código cliente
  • Operar um serviço interno ou revendido de API de LLM com gerenciamento de contas e cotas

Início rápido

  1. 1

    Faça o deploy com Docker seguindo o guia vinculado no README

  2. 2

    Siga o guia de início rápido no site do projeto

Antes de usar

  • O README não informa nenhum comando de instalação, então a configuração depende do guia externo do Docker.
  • A maior parte da documentação e do README está em chinês.

Em coleções

Ferramentas, skills e plugins para Claude CodeApps auto-hospedadosFrameworks de microsserviços e infraestrutura de serviços

Tópicos

#llm#api-gateway#openai-compatible#go#self-hosted#docker#multi-model#api#chatgpt#claude

Perguntas frequentes

O que é fastapi?
Gateway auto-hospedado que reúne vários provedores de LLM (OpenAI, Claude, Gemini, DeepSeek, Qwen e outros) em uma única API compatível com a OpenAI. O Fast API é um sistema de integração com APIs de LLM voltado para empresas e escrito em Go. Ele permite que sistemas corporativos acessem modelos de vários provedores, incluindo OpenAI, Azure, Anthropic Claude, Gemini, DeepSeek, Qwen, Baidu ERNIE, iFlytek Spark, Zhipu GLM, Doubao e Grok, por meio de um único endpoint compatível com a OpenAI. A integração é feita uma vez, e é possível trocar ou adicionar backends sem alterar o código dos sistemas clientes.
fastapi é gratuito? Qual é a licença?
fastapi é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
fastapi ainda é mantido?
Manutenção ativa. O último commit de fastapi foi em 6 de nov. de 2026.
Para que posso usar fastapi?
Dar a uma aplicação acesso a vários provedores de LLM por meio de uma única API Trocar ou adicionar backends de modelos sem alterar o código cliente Operar um serviço interno ou revendido de API de LLM com gerenciamento de contas e cotas
Como instalar fastapi?
Faça o deploy com Docker seguindo o guia vinculado no README Siga o guia de início rápido no site do projeto
Onde consigo fastapi?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/iimeta/fastapi

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados