Gateway de IA open source que oferece uma API compatível com OpenAI para mais de 23 provedores de LLM, com failover, balanceamento de carga, cache semântico e chaves virtuais.
8,9 mil1,4 milGoApache-2.0Atualizado há 3 horas
#load-balancing
Projetos open source sobre “load-balancing”
Repositórios do GitHub selecionados relacionados a load-balancing, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
3 repositórios
Gateway de API dinâmico e de alto desempenho, baseado em NGINX e etcd, com plugins para roteamento, autenticação, limitação de taxa e tráfego de IA/LLM.
17,2 mil3 milLuaApache-2.0Atualizado há 3 dias
A web-based graphical interface for nginx that lets you manage virtual hosts, proxies, SSL certificates and streams without editing config files by hand.
2,1 mil150GoMITAtualizado há 8 dias