Proxy de código abierto para agentes de IA que aporta seguridad, observabilidad y gobernanza al tráfico de LLM, herramientas MCP y comunicación entre agentes.
epam/ai-dial-core
Proxy HTTP basado en Java que ofrece una API unificada para varios modelos de chat completion y embeddings, asistentes y aplicaciones.
- Estrellas
- 662
- Forks
- 44
- Issues abiertos
- 157
- Último commit
- hace 17 horas
¿Qué es?
DIAL Core es el componente principal del servidor de la plataforma AI DIAL. Se sitúa entre las aplicaciones cliente y varios proveedores de modelos, y expone una única API REST para chat completion, modelos de embeddings, asistentes y aplicaciones, de modo que los clientes no necesitan integrar cada proveedor por separado.
El servidor está escrito en Java 21 y se basa en Eclipse Vert.x. Se configura mediante ajustes estáticos que se cargan al iniciar y archivos de configuración dinámica que se vuelven a cargar a intervalos definidos. La configuración abarca proveedores de identidad para verificar JWT, backends de almacenamiento de blobs como S3, Azure Blob, Google Cloud Storage y el sistema de archivos, seguridad OAuth para conjuntos de herramientas con cifrado KMS opcional, y opciones de analítica y trazas de OpenTelemetry.
El proyecto se puede compilar y ejecutar con Gradle, iniciar desde un IDE o desplegar en Kubernetes mediante los charts umbrella dial o dial-core de Helm. A partir del código fuente se genera una especificación OpenAPI 3.0.
Funciones clave
- 01API REST unificada para modelos de chat completion y embeddings, asistentes y aplicaciones.
- 02Basado en Java 21 y Eclipse Vert.x.
- 03Backends de almacenamiento de blobs conectables, como S3, Azure Blob, Google Cloud Storage y el sistema de archivos.
- 04Configuración de proveedores de identidad basada en JWT y user-info, con asignación de roles.
- 05Trazas GenAI de OpenTelemetry y registro de analítica configurable.
- 06Charts de Helm para desplegar en Kubernetes y una especificación OpenAPI generada.
Casos de uso
- Colocar una única puerta de enlace de API delante de varios proveedores de LLM y embeddings para aplicaciones internas.
- Ejecutar una plataforma de IA autohospedada en Kubernetes con autenticación y acceso basado en roles.
- Añadir trazas y analítica de auditoría al tráfico de LLM en un entorno empresarial.
Inicio rápido
- 1
Configura las variables de entorno GPR_USERNAME y GPR_PASSWORD para acceder a los paquetes de GitHub
- 2
Compila el proyecto con Gradle y Java 21
./gradlew build - 3
Ejecuta el proyecto con Gradle
./gradlew :server:run
Antes de usarlo
- La compilación requiere Java 21 y un token de acceso personal de GitHub con permiso read:packages para obtener los paquetes de JClouds.
- Para que sea útil en la práctica, es necesario configurarlo mediante archivos de configuración estática y dinámica.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es ai-dial-core?
- Proxy HTTP basado en Java que ofrece una API unificada para varios modelos de chat completion y embeddings, asistentes y aplicaciones. DIAL Core es el componente principal del servidor de la plataforma AI DIAL. Se sitúa entre las aplicaciones cliente y varios proveedores de modelos, y expone una única API REST para chat completion, modelos de embeddings, asistentes y aplicaciones, de modo que los clientes no necesitan integrar cada proveedor por separado.
- ¿ai-dial-core es gratuito? ¿Qué licencia tiene?
- ai-dial-core es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿ai-dial-core sigue mantenido?
- Mantenimiento activo. El último commit de ai-dial-core fue el 5 nov 2026.
- ¿Para qué puedo usar ai-dial-core?
- Colocar una única puerta de enlace de API delante de varios proveedores de LLM y embeddings para aplicaciones internas. Ejecutar una plataforma de IA autohospedada en Kubernetes con autenticación y acceso basado en roles. Añadir trazas y analítica de auditoría al tráfico de LLM en un entorno empresarial.
- ¿Cómo se instala ai-dial-core?
- Configura las variables de entorno GPR_USERNAME y GPR_PASSWORD para acceder a los paquetes de GitHub Compila el proyecto con Gradle y Java 21: ./gradlew build Ejecuta el proyecto con Gradle: ./gradlew :server:run
- ¿Dónde consigo ai-dial-core?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/epam/ai-dial-core
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Un plano de control de código abierto basado en Envoy que ofrece a las aplicaciones una API compatible con OpenAI para proveedores de LLM alojados, inferencia autogestionada y servidores MCP.
Gateway de API cloud-native basado en Istio y Envoy, con funciones de gateway de IA para proveedores de LLM y alojamiento de servidores MCP.
Una biblioteca Java para llamar a la API REST del servidor Ollama, con funciones de chat, generación, herramientas, embeddings y gestión de modelos.
Gateway y registro de IA de código abierto que unifica MCP, A2A y API REST/gRPC en un único endpoint, con gobernanza, descubrimiento y observabilidad.
Una API unificada de Ruby para chat, voz y embeddings con varios proveedores de IA, como OpenAI, Anthropic, Google, Mistral y DeepSeek.