Gateway de API de código abierto que enruta solicitudes de LLM entre varios proveedores mediante una interfaz compatible con OpenAI, con gestión de claves y análisis de uso.
Alternativa open source a:OpenRouter
LLM Gateway se sitúa entre tus aplicaciones y proveedores de modelos de lenguaje grandes, como OpenAI, Anthropic y Google Vertex AI. Las aplicaciones envían solicitudes a un único endpoint y el gateway las reenvía al proveedor elegido, así que no necesitas una integración distinta para cada servicio.
Las claves de API de distintos proveedores se gestionan desde un solo lugar. El gateway registra las solicitudes, el uso de tokens, los tiempos de respuesta y los costos, e incluye comparativas de rendimiento entre modelos para ayudar a evaluar su rentabilidad.
Puedes usarlo como servicio alojado en llmgateway.io o autoalojarlo con Docker mediante un contenedor unificado que incluye PostgreSQL y Redis. El código está organizado como un monorepo de TypeScript con un backend de Hono, dashboards de Next.js y un esquema de Drizzle ORM. El núcleo utiliza la licencia AGPLv3, mientras que ciertas funciones empresariales del directorio ee/ tienen una licencia comercial independiente.
Instala las dependencias y configura el entorno de desarrollo (se requiere Docker).
pnpm i && pnpm run setupInicia los servidores de desarrollo.
pnpm devResumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Una puerta de enlace de API para LLM autohospedada y dirigida a usuarios individuales, que agrupa varios proveedores en un único endpoint con conmutación por error y seguimiento de costos.
Un único binario de Rust que ofrece a cualquier SDK de IA un endpoint para acceder a varios proveedores de LLM, con herramientas MCP, control del tráfico y registro de solicitudes.
Gateway de IA autoalojado que ofrece APIs compatibles con OpenAI, Claude y Gemini para muchos proveedores de modelos, con enrutamiento, claves, cuotas y seguimiento de costos.
Gateway de IA autohospedado que reúne API keys y cuentas de suscripción de varios proveedores en un único endpoint, con programación, failover y registros de uso.
Gateway de IA autohospedado en Go que ofrece una API compatible con OpenAI y Anthropic para múltiples proveedores de LLM, con seguimiento de costos, conmutación por error y controles de seguridad.
Un plano de control de código abierto basado en Envoy que ofrece a las aplicaciones una API compatible con OpenAI para proveedores de LLM alojados, inferencia autogestionada y servidores MCP.