Repolode
bestruirui

bestruirui/octopus

Um gateway de API de LLM self-hosted para uso individual, que reúne canais de vários provedores em um único endpoint, com failover e controle de custos.

Alternativa open source a:OpenRouter

Estrelas
2,742
Forks
450
Issues abertas
16
Último commit
há 16 dias

O que é?

O Octopus é um gateway self-hosted que fica entre seus clientes e vários provedores de LLM. Você configura canais upstream para provedores como OpenAI, Anthropic e Gemini e, em seguida, agrupa esses canais sob um único nome de modelo, para que os clientes chamem um só endpoint, independentemente do provedor que atende à solicitação.

Ele converte entre os formatos OpenAI Chat, OpenAI Responses e Anthropic API, permitindo apontar ferramentas como Claude Code e Codex para ele alterando a base URL. Quando um canal upstream falha, as solicitações passam automaticamente para outro canal disponível. Os preços dos modelos são sincronizados com o models.dev e podem ser substituídos manualmente. Estatísticas de solicitações, uso de tokens e custos são registrados e exibidos em um painel web de gerenciamento.

O projeto é distribuído como um único binário Go com uma interface web integrada e armazena os dados em SQLite, MySQL ou PostgreSQL. Também pode ser executado com Docker.

Recursos principais

  • 01Reúne canais de vários provedores de LLM sob nomes de modelo de grupo unificados
  • 02Converte entre os formatos OpenAI Chat, OpenAI Responses e Anthropic API
  • 03Faz failover automaticamente para outro canal quando um canal upstream apresenta erro
  • 04Sincroniza preços de modelos e listas de modelos disponíveis de fontes upstream
  • 05Acompanha o número de solicitações, o uso de tokens e os custos em um painel web
  • 06É executado como um único binário e usa SQLite, MySQL ou PostgreSQL para armazenar dados

Casos de uso

  • Conectar o Claude Code ou o Codex a vários provedores por meio de um único endpoint local
  • Usar uma única chave de API e um único nome de modelo em várias contas de LLM em uma configuração pessoal
  • Manter tarefas de agentes em execução quando um provedor upstream sofre uma interrupção
  • Acompanhar os gastos com tokens de diferentes provedores de LLM em um só lugar

Início rápido

  1. 1

    Execute o contêiner do Docker

    docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus
  2. 2

    Ou baixe o binário na página de releases e execute-o

    ./octopus start

Antes de usar

  • As credenciais padrão de administrador são admin/admin, então você deve alterar a senha logo após o primeiro login.
  • As estatísticas ficam armazenadas temporariamente na memória, portanto um encerramento forçado, como kill -9, pode causar perda de dados.
  • Os bancos de dados MySQL e PostgreSQL devem ser criados manualmente antes do uso.

Em coleções

Tópicos

Perguntas frequentes

O que é octopus?
Um gateway de API de LLM self-hosted para uso individual, que reúne canais de vários provedores em um único endpoint, com failover e controle de custos. O Octopus é um gateway self-hosted que fica entre seus clientes e vários provedores de LLM. Você configura canais upstream para provedores como OpenAI, Anthropic e Gemini e, em seguida, agrupa esses canais sob um único nome de modelo, para que os clientes chamem um só endpoint, independentemente do provedor que atende à solicitação.
octopus é gratuito? Qual é a licença?
octopus é open source sob a licença AGPL-3.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
octopus ainda é mantido?
Manutenção ativa. O último commit de octopus foi em 23 de out. de 2026.
Para que posso usar octopus?
Conectar o Claude Code ou o Codex a vários provedores por meio de um único endpoint local Usar uma única chave de API e um único nome de modelo em várias contas de LLM em uma configuração pessoal Manter tarefas de agentes em execução quando um provedor upstream sofre uma interrupção Acompanhar os gastos com tokens de diferentes provedores de LLM em um só lugar
Como instalar octopus?
Execute o contêiner do Docker: docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus Ou baixe o binário na página de releases e execute-o: ./octopus start
Onde consigo octopus?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/bestruirui/octopus

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados