Gateway de IA de código abierto que ofrece una API compatible con OpenAI para más de 23 proveedores de LLM, con conmutación por error, balanceo de carga, caché semántica y claves virtuales.
8,9 mil1,4 milGoApache-2.0Actualizado hace 3 horas
#load-balancing
Proyectos open source sobre «load-balancing»
Repositorios de GitHub seleccionados relacionados con load-balancing, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
3 repositorios
Gateway de API dinámico y de alto rendimiento basado en NGINX y etcd, con plugins para enrutamiento, autenticación, limitación de tasa y tráfico de IA/LLM.
17,2 mil3 milLuaApache-2.0Actualizado hace 3 días
A web-based graphical interface for nginx that lets you manage virtual hosts, proxies, SSL certificates and streams without editing config files by hand.
2,1 mil150GoMITActualizado hace 8 días