Un router de LLM para agentes autónomos que elige localmente el modelo más económico que puede atender cada solicitud; se paga con una wallet cripto en USDC o una API key vinculada a una tarjeta.
6,6 mil650TypeScriptMITActualizado ayer
mnfst/llm-gateway
Gateway LLM de código abierto que dirige las solicitudes de agentes y aplicaciones de IA a distintos proveedores de modelos mediante un único endpoint compatible con OpenAI.
Alternativa open source a:OpenRouter
- Estrellas
- 7,595
- Forks
- 522
- Issues abiertos
- 54
- Último commit
- ayer
¿Qué es?
Manifest LLM Gateway se sitúa entre tus agentes o aplicaciones de IA y los proveedores de modelos que utilizan. Puedes conectar claves de API, suscripciones, modelos locales o endpoints personalizados compatibles con OpenAI/Anthropic, y todas las solicitudes pasan por un único endpoint compatible con OpenAI. Al enviar "model": "auto", Manifest elige el modelo para cada consulta, lo que evita que una aplicación quede vinculada a un solo proveedor.
El gateway registra el contenido completo de las solicitudes y los errores, hace un seguimiento del gasto por solicitud y permite configurar notificaciones y límites de costos. Si una consulta falla, puede recurrir a otro modelo. La lista de proveedores incluye 35 conexiones integradas: API alojadas como OpenAI, Anthropic, Google y DeepSeek, además de entornos de ejecución locales como Ollama, LM Studio y llama.cpp.
Se distribuye como imagen de Docker y puede implementarse en Railway, Render, AWS, GCP, DigitalOcean, Fly.io y otras plataformas. Las grabaciones de solicitudes se almacenan en PostgreSQL y en almacenamiento compatible con S3 o en disco persistente, según la plataforma.
Funciones clave
- 01Un único endpoint compatible con OpenAI para claves de API, suscripciones, modelos locales y proveedores personalizados
- 02Selección automática de modelos con "model": "auto"
- 03Registro del contenido completo de las solicitudes y los errores
- 04Seguimiento del costo por solicitud, con notificaciones y límites de gasto
- 05Alternativa de otros modelos cuando falla una solicitud
Casos de uso
- Dirigir un agente de IA a través de varios proveedores sin cambiar el código de la aplicación
- Hacer seguimiento del gasto en LLM y establecer límites para un equipo o proyecto
- Ejecutar un gateway autohospedado que combine API en la nube con modelos locales de Ollama o llama.cpp
- Depurar solicitudes de agentes inspeccionando el contenido registrado de las solicitudes y los errores
Temas
Preguntas frecuentes
- ¿Qué es llm-gateway?
- Gateway LLM de código abierto que dirige las solicitudes de agentes y aplicaciones de IA a distintos proveedores de modelos mediante un único endpoint compatible con OpenAI. Manifest LLM Gateway se sitúa entre tus agentes o aplicaciones de IA y los proveedores de modelos que utilizan. Puedes conectar claves de API, suscripciones, modelos locales o endpoints personalizados compatibles con OpenAI/Anthropic, y todas las solicitudes pasan por un único endpoint compatible con OpenAI. Al enviar "model": "auto", Manifest elige el modelo para cada consulta, lo que evita que una aplicación quede vinculada a un solo proveedor.
- ¿llm-gateway es gratuito? ¿Qué licencia tiene?
- llm-gateway es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿llm-gateway sigue mantenido?
- Mantenimiento activo. El último commit de llm-gateway fue el 21 oct 2026.
- ¿Para qué puedo usar llm-gateway?
- Dirigir un agente de IA a través de varios proveedores sin cambiar el código de la aplicación Hacer seguimiento del gasto en LLM y establecer límites para un equipo o proyecto Ejecutar un gateway autohospedado que combine API en la nube con modelos locales de Ollama o llama.cpp Depurar solicitudes de agentes inspeccionando el contenido registrado de las solicitudes y los errores
- ¿Dónde consigo llm-gateway?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/mnfst/llm-gateway
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Router de LLM autohospedado y con código disponible que envía prompts sencillos a modelos económicos o locales y los complejos a modelos premium, mediante un proxy compatible con OpenAI.
66180PythonOtherActualizado hace 4 horas
Gateway de LLM autohospedado y compatible con OpenAI que dirige las solicitudes desde un único endpoint a más de 40 proveedores, con claves virtuales, presupuestos y seguimiento del uso.
68789PythonApache-2.0Actualizado hace 3 días
Agente de IA personal y autoalojado: cada agente se ejecuta en su propio contenedor de escritorio Linux en tu computadora, con cualquier modelo, una bóveda cifrada y control por Telegram.
26939TypeScriptMITActualizado anteayer
Gateway de IA de código abierto y SDK de Python para acceder a más de 100 proveedores de LLM mediante una única interfaz compatible con OpenAI.
61,6 mil12,5 milPythonOtherActualizado anteayer
Gateway de IA autoalojado que ofrece APIs compatibles con OpenAI, Claude y Gemini para muchos proveedores de modelos, con enrutamiento, claves, cuotas y seguimiento de costos.
50,3 mil12,1 milGoAGPL-3.0Actualizado hace 3 días