Repolode
Enviar
yym68686

yym68686/uni-api

Gateway autohospedado que expone varios proveedores de LLM detrás de una única API compatible con OpenAI, con balanceo de carga.

Alternativa open source a:OpenRouter

Ver en GitHubSitio web
Estrellas
1,272
Forks
158
Issues abiertos
15
Último commit
hace 4 días

¿Qué es?

uni-api es un gateway autohospedado para API de modelos de lenguaje grandes. Permite llamar a varios proveedores de backend, como OpenAI, Anthropic, Gemini, Vertex, Azure, AWS, xAI, Cohere, Groq, Cloudflare y OpenRouter, a través de un único endpoint compatible con el formato de OpenAI. Los proveedores y sus claves se definen en un archivo de configuración YAML, en lugar de mediante una consola web, y es posible cambiar el nombre de los modelos o agruparlos para que los clientes usen nombres sencillos.

El gateway se ocupa de los aspectos operativos de gestionar varias claves de API y proveedores. Admite estrategias de planificación ponderada, round-robin y otras, tanto entre canales como entre claves de un mismo canal; reintenta con el siguiente canal si se produce un error y pone en espera durante un periodo determinado los canales que fallan. En el mismo archivo se configuran los permisos por clave con comodines, los límites de solicitudes, los tiempos de espera de los modelos y la moderación opcional de mensajes.

Además de las completaciones de chat, ofrece endpoints al estilo de OpenAI para respuestas, imágenes, embeddings, transcripción de audio y síntesis de voz, moderaciones y listado de modelos. Está escrito en Rust y puede ejecutarse desde una imagen de Docker, con SQLite de forma predeterminada o PostgreSQL como base de datos.

Funciones clave

  • 01Expone varios proveedores mediante una única API compatible con OpenAI, incluidos OpenAI, Anthropic, Gemini, Vertex y Azure.
  • 02Se configura por completo mediante un archivo YAML, sin necesidad de una interfaz web.
  • 03Balanceo de carga ponderado y round-robin a nivel de canal, además de rotación de claves dentro de cada canal.
  • 04Reintentos automáticos con el siguiente canal y puesta en espera de los canales que fallan.
  • 05Permisos de modelos por clave con comodines, límites de solicitudes y tiempos de espera por modelo.
  • 06Admite endpoints de chat, respuestas, imágenes, embeddings, audio, moderaciones y listado de modelos.

Casos de uso

  • Ejecutar un endpoint de API personal o para un equipo pequeño que dirija las solicitudes a varios proveedores de LLM usando una sola clave.
  • Distribuir el tráfico entre varias claves o cuentas de API para reducir los errores por límites de solicitudes.
  • Dar acceso a modelos Claude o Gemini a clientes existentes compatibles con OpenAI, sin cambiar el código.
  • Alojar un gateway compartido con claves, cuotas y moderación por usuario.

Inicio rápido

  1. 1

    Crea un archivo de configuración api.yaml con el base_url y la clave de API de tu proveedor

  2. 2

    Inicia uni-api con el archivo de configuración, montado como api.yaml o indicado mediante CONFIG_URL, tal como se describe en el README

Antes de usarlo

  • Debes crear un archivo de configuración YAML antes de iniciar uni-api.

En colecciones

Herramientas, skills y plugins para Claude CodeApps autoalojadasFrameworks de microservicios e infraestructura de servicios

Temas

#llm-gateway#openai-compatible#load-balancing#api-gateway#anthropic#gemini#self-hosted#rust#aws#azure

Preguntas frecuentes

¿Qué es uni-api?
Gateway autohospedado que expone varios proveedores de LLM detrás de una única API compatible con OpenAI, con balanceo de carga. uni-api es un gateway autohospedado para API de modelos de lenguaje grandes. Permite llamar a varios proveedores de backend, como OpenAI, Anthropic, Gemini, Vertex, Azure, AWS, xAI, Cohere, Groq, Cloudflare y OpenRouter, a través de un único endpoint compatible con el formato de OpenAI. Los proveedores y sus claves se definen en un archivo de configuración YAML, en lugar de mediante una consola web, y es posible cambiar el nombre de los modelos o agruparlos para que los clientes usen nombres sencillos.
¿uni-api es gratuito? ¿Qué licencia tiene?
uni-api es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿uni-api sigue mantenido?
Mantenimiento activo. El último commit de uni-api fue el 4 nov 2026.
¿Para qué puedo usar uni-api?
Ejecutar un endpoint de API personal o para un equipo pequeño que dirija las solicitudes a varios proveedores de LLM usando una sola clave. Distribuir el tráfico entre varias claves o cuentas de API para reducir los errores por límites de solicitudes. Dar acceso a modelos Claude o Gemini a clientes existentes compatibles con OpenAI, sin cambiar el código. Alojar un gateway compartido con claves, cuotas y moderación por usuario.
¿Cómo se instala uni-api?
Crea un archivo de configuración api.yaml con el base_url y la clave de API de tu proveedor Inicia uni-api con el archivo de configuración, montado como api.yaml o indicado mediante CONFIG_URL, tal como se describe en el README
¿Dónde consigo uni-api?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/yym68686/uni-api

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados