Repolode
maximhq

maximhq/bifrost

Gateway de IA de código abierto que ofrece una API compatible con OpenAI para más de 23 proveedores de LLM, con conmutación por error, balanceo de carga, caché semántica y claves virtuales.

Estrellas
8,932
Forks
1,424
Issues abiertos
1,248
Último commit
hace 12 horas

¿Qué es?

Bifrost es un gateway de IA que se sitúa entre tu aplicación y proveedores de LLM como OpenAI, Anthropic, AWS Bedrock, Google Vertex y Azure. Las aplicaciones envían solicitudes a un único endpoint compatible con OpenAI, y Bifrost las dirige al proveedor o modelo configurado.

Se encarga de aspectos de confiabilidad y costos que suelen gestionarse en el código de la aplicación: alternativas automáticas entre proveedores y modelos, balanceo de carga entre varias claves de API y caché semántica de respuestas similares. Entre las funciones de gobernanza se incluyen claves virtuales, límites de solicitudes y presupuestos jerárquicos para equipos y clientes, además de métricas de Prometheus y registro de solicitudes.

Bifrost puede ejecutarse mediante npx o Docker e incluye una interfaz web para configuración y monitoreo; también puede integrarse como un SDK de Go o usarse como reemplazo directo cambiando la URL base en los SDK existentes de OpenAI, Anthropic o GenAI. Además, funciona como gateway MCP para exponer herramientas externas a los modelos.

Funciones clave

  • 01Una única API compatible con OpenAI para numerosos proveedores y modelos de LLM
  • 02Alternativas automáticas y balanceo de carga entre proveedores y claves de API
  • 03Caché semántica de respuestas similares para reducir costos y latencia
  • 04Claves virtuales, límites de solicitudes y presupuestos jerárquicos para la gobernanza
  • 05Métricas de Prometheus, trazas distribuidas y registro de solicitudes
  • 06Compatibilidad con gateway MCP para dar acceso a herramientas externas a los modelos

Casos de uso

  • Mantener una aplicación en funcionamiento cuando un proveedor de LLM sufre una interrupción
  • Controlar y limitar el gasto en LLM por equipo, cliente o clave de API
  • Cambiar una aplicación existente que usa el SDK de OpenAI o Anthropic para utilizar otros modelos modificando la URL base
  • Centralizar el acceso a modelos y las conexiones a herramientas para agentes de programación y servicios internos de IA

Inicio rápido

  1. 1

    Inicia Bifrost Gateway localmente con npx

    npx -y @maximhq/bifrost
  2. 2

    O ejecútalo con Docker

    docker run -p 8080:8080 maximhq/bifrost
  3. 3

    Abre la interfaz web integrada para configurarlo

    open http://localhost:8080
  4. 4

    Haz tu primera llamada a la API a través del gateway

    curl -X POST http://localhost:8080/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "openai/gpt-4o-mini", "messages": [{"role": "user", "content": "Hello, Bifrost!"}]}'

Antes de usarlo

  • Se necesitan las claves de API de los proveedores para conectarse realmente a los proveedores de LLM ascendentes.
  • Algunas funciones empresariales, como la agrupación en clústeres, las barreras de protección y el balanceo de carga adaptativo, se ofrecen en un plan empresarial independiente.

Temas

Preguntas frecuentes

¿Qué es bifrost?
Gateway de IA de código abierto que ofrece una API compatible con OpenAI para más de 23 proveedores de LLM, con conmutación por error, balanceo de carga, caché semántica y claves virtuales. Bifrost es un gateway de IA que se sitúa entre tu aplicación y proveedores de LLM como OpenAI, Anthropic, AWS Bedrock, Google Vertex y Azure. Las aplicaciones envían solicitudes a un único endpoint compatible con OpenAI, y Bifrost las dirige al proveedor o modelo configurado.
¿bifrost es gratuito? ¿Qué licencia tiene?
bifrost es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿bifrost sigue mantenido?
Mantenimiento activo. El último commit de bifrost fue el 19 oct 2026.
¿Para qué puedo usar bifrost?
Mantener una aplicación en funcionamiento cuando un proveedor de LLM sufre una interrupción Controlar y limitar el gasto en LLM por equipo, cliente o clave de API Cambiar una aplicación existente que usa el SDK de OpenAI o Anthropic para utilizar otros modelos modificando la URL base Centralizar el acceso a modelos y las conexiones a herramientas para agentes de programación y servicios internos de IA
¿Cómo se instala bifrost?
Inicia Bifrost Gateway localmente con npx: npx -y @maximhq/bifrost O ejecútalo con Docker: docker run -p 8080:8080 maximhq/bifrost Abre la interfaz web integrada para configurarlo: open http://localhost:8080 Haz tu primera llamada a la API a través del gateway: curl -X POST http://localhost:8080/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "openai/gpt-4o-mini", "messages": [{"role": "user", "content": "Hello, Bifrost!"}]}'
¿Dónde consigo bifrost?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/maximhq/bifrost

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados