Repolode
Enviar
tashfeenahmed

tashfeenahmed/freellmapi

Gateway autohospedado compatible con OpenAI que reúne los planes gratuitos de proveedores de LLM detrás de un único endpoint /v1, con enrutamiento y conmutación por error.

Alternativa open source a:OpenRouterLiteLLM

Ver en GitHubSitio web
Estrellas
38,952
Forks
5,249
Issues abiertos
40
Último commit
hace 7 horas

¿Qué es?

FreeLLMAPI es un gateway local que reúne los planes gratuitos de varios proveedores de LLM y los ofrece a través de un único endpoint /v1 compatible con OpenAI. Añades las claves de tus proveedores en el dashboard y, a partir de ahí, cualquier SDK de OpenAI o cliente compatible puede enviar solicitudes a una sola URL base. Un router elige un modelo disponible para cada solicitud y cambia al siguiente proveedor cuando uno devuelve un error de límite de solicitudes o del servidor.

Las claves de los proveedores se guardan cifradas en SQLite y se descifran en memoria para cada solicitud. La aplicación registra las solicitudes, los tokens y los límites por clave para que el enrutamiento respete los topes de cada plan gratuito. También incluye endpoints de chat, embeddings, imágenes, video y voz, además de interfaces compatibles con Anthropic Messages, Gemini y Ollama para agentes de programación y CLI. El router funciona con Node 20+ y se distribuye como imagen de Docker, aplicación de escritorio y opción Premium, que añade un catálogo de modelos actualizado en tiempo real.

Funciones clave

  • 01Un único endpoint /v1 compatible con OpenAI para muchas claves gratuitas de proveedores
  • 02Conmutación automática al siguiente modelo ante respuestas 429 o 5xx
  • 03Seguimiento de RPM, RPD, TPM y TPD por clave para respetar los límites de los planes gratuitos
  • 04Claves de proveedores cifradas en reposo con AES-256-GCM
  • 05Endpoints compatibles con Anthropic, Gemini y Ollama para agentes de programación
  • 06Dashboard de administración con gestión de claves, entorno de pruebas y analíticas de uso

Casos de uso

  • Crear prototipos de aplicaciones con varios LLM sin pagar por el uso de la API
  • Conectar Claude Code, Codex CLI o Aider a un conjunto de modelos gratuitos
  • Ejecutar un gateway local personal que combine planes gratuitos en la nube con modelos autohospedados
  • Probar cómo responden distintos proveedores a la misma solicitud con formato OpenAI

Inicio rápido

  1. 1

    Descarga la aplicación de escritorio desde la página de versiones (macOS o Windows)

  2. 2

    Aloja la aplicación por tu cuenta con Docker siguiendo las instrucciones de Docker Compose de la guía de instalación

Antes de usarlo

  • Las instalaciones gratuitas reciben los modelos nuevos 30 días después de que se incorporen al feed premium en vivo. Premium es un plan de pago que cuesta 19 USD al año.
  • Debes obtener y añadir tus propias claves de API de cada proveedor gratuito que quieras usar.

Temas

#llm#openai-compatible#api-gateway#llm-routing#failover#free-tier#self-hosted#typescript

Preguntas frecuentes

¿Qué es freellmapi?
Gateway autohospedado compatible con OpenAI que reúne los planes gratuitos de proveedores de LLM detrás de un único endpoint /v1, con enrutamiento y conmutación por error. FreeLLMAPI es un gateway local que reúne los planes gratuitos de varios proveedores de LLM y los ofrece a través de un único endpoint /v1 compatible con OpenAI. Añades las claves de tus proveedores en el dashboard y, a partir de ahí, cualquier SDK de OpenAI o cliente compatible puede enviar solicitudes a una sola URL base. Un router elige un modelo disponible para cada solicitud y cambia al siguiente proveedor cuando uno devuelve un error de límite de solicitudes o del servidor.
¿freellmapi es gratuito? ¿Qué licencia tiene?
freellmapi es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿freellmapi sigue mantenido?
Mantenimiento activo. El último commit de freellmapi fue el 21 oct 2026.
¿Para qué puedo usar freellmapi?
Crear prototipos de aplicaciones con varios LLM sin pagar por el uso de la API Conectar Claude Code, Codex CLI o Aider a un conjunto de modelos gratuitos Ejecutar un gateway local personal que combine planes gratuitos en la nube con modelos autohospedados Probar cómo responden distintos proveedores a la misma solicitud con formato OpenAI
¿Cómo se instala freellmapi?
Descarga la aplicación de escritorio desde la página de versiones (macOS o Windows) Aloja la aplicación por tu cuenta con Docker siguiendo las instrucciones de Docker Compose de la guía de instalación
¿Dónde consigo freellmapi?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/tashfeenahmed/freellmapi

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados