mozilla-ai/otari

¿Qué es?

Funciones clave

• 01Expone un endpoint compatible con OpenAI y Anthropic para más de 40 proveedores.
• 02Emite claves virtuales de API revocables, con permisos limitados por usuario, espacio de trabajo y modelo.
• 03Aplica los presupuestos antes de enviar las solicitudes y registra el uso después.
• 04Admite políticas de enrutamiento con conmutación por error, ponderación y selección basada en el aprendizaje.
• 05Ofrece un panel web para administrar proveedores, claves, presupuestos y uso.
• 06Funciona de forma independiente con SQLite o PostgreSQL mediante Docker Compose.

Casos de uso

• Ofrecer a un equipo un único endpoint interno para varios proveedores de LLM sin compartir las claves de los proveedores.
• Establecer límites y hacer seguimiento del gasto en LLM por usuario o proyecto.
• Añadir conmutación por error entre modelos para que las solicitudes se completen cuando un proveedor no esté disponible.
• Dirigir aplicaciones que usan clientes de OpenAI a otros proveedores cambiando solo la URL base.

Inicio rápido

1. 1

   Inicia una gateway independiente y temporal con Docker

   docker run --rm -p 8000:8000 -e OTARI_MASTER_KEY=SET_A_MASTER_KEY -e OPENAI_API_KEY=YOUR_OPENAI_KEY -e OTARI_CONFIG_YAML=' default_pricing: true providers: openai: api_key: ${OPENAI_API_KEY} ' mzdotai/otari:latest otari serve
2. 2

   Envía una solicitud de chat con la bootstrap key que se muestra en el primer inicio

   curl http://localhost:8000/api/v1/chat/completions -H "Authorization: Bearer tk-..." -H "Content-Type: application/json" -d '{"model": "openai:gpt-4o-mini", "messages": [{"role": "user", "content": "Say hello."}]}'

Antes de usarlo

• !La guía de inicio rápido con Docker usa SQLite dentro del contenedor, y los datos se eliminan al detenerlo.
• !Para realizar llamadas a los proveedores, necesitas tus propias claves de API.

Temas

Preguntas frecuentes

¿Qué es otari?

Gateway de LLM autohospedado y compatible con OpenAI que dirige las solicitudes desde un único endpoint a más de 40 proveedores, con claves virtuales, presupuestos y seguimiento del uso. Otari se sitúa entre tus aplicaciones y los proveedores de modelos. Autentica las solicitudes, resuelve las credenciales de los proveedores, comprueba los presupuestos antes de enviar cada solicitud y registra el uso después de cada llamada. Las llamadas a los proveedores se realizan mediante la biblioteca any-llm, así que el código cliente puede seguir usando APIs al estilo de OpenAI o Anthropic mientras el gateway se encarga del proveedor ascendente.

¿otari es gratuito? ¿Qué licencia tiene?

otari es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.

¿otari sigue mantenido?

Mantenimiento activo. El último commit de otari fue el 19 oct 2026.

¿Para qué puedo usar otari?

Ofrecer a un equipo un único endpoint interno para varios proveedores de LLM sin compartir las claves de los proveedores. Establecer límites y hacer seguimiento del gasto en LLM por usuario o proyecto. Añadir conmutación por error entre modelos para que las solicitudes se completen cuando un proveedor no esté disponible. Dirigir aplicaciones que usan clientes de OpenAI a otros proveedores cambiando solo la URL base.

¿Cómo se instala otari?

Inicia una gateway independiente y temporal con Docker: docker run --rm -p 8000:8000 -e OTARI_MASTER_KEY=SET_A_MASTER_KEY -e OPENAI_API_KEY=YOUR_OPENAI_KEY -e OTARI_CONFIG_YAML=' default_pricing: true providers: openai: api_key: ${OPENAI_API_KEY} ' mzdotai/otari:latest otari serve Envía una solicitud de chat con la bootstrap key que se muestra en el primer inicio: curl http://localhost:8000/api/v1/chat/completions -H "Authorization: Bearer tk-..." -H "Content-Type: application/json" -d '{"model": "openai:gpt-4o-mini", "messages": [{"role": "user", "content": "Say hello."}]}'

¿Dónde consigo otari?

El código fuente y las instrucciones de instalación están en GitHub: https://github.com/mozilla-ai/otari