Repolode
epam

epam/ai-dial-core

Proxy HTTP basado en Java que ofrece una API unificada para varios modelos de chat completion y embeddings, asistentes y aplicaciones.

Estrellas
662
Forks
44
Issues abiertos
157
Último commit
hace 17 horas

¿Qué es?

DIAL Core es el componente principal del servidor de la plataforma AI DIAL. Se sitúa entre las aplicaciones cliente y varios proveedores de modelos, y expone una única API REST para chat completion, modelos de embeddings, asistentes y aplicaciones, de modo que los clientes no necesitan integrar cada proveedor por separado.

El servidor está escrito en Java 21 y se basa en Eclipse Vert.x. Se configura mediante ajustes estáticos que se cargan al iniciar y archivos de configuración dinámica que se vuelven a cargar a intervalos definidos. La configuración abarca proveedores de identidad para verificar JWT, backends de almacenamiento de blobs como S3, Azure Blob, Google Cloud Storage y el sistema de archivos, seguridad OAuth para conjuntos de herramientas con cifrado KMS opcional, y opciones de analítica y trazas de OpenTelemetry.

El proyecto se puede compilar y ejecutar con Gradle, iniciar desde un IDE o desplegar en Kubernetes mediante los charts umbrella dial o dial-core de Helm. A partir del código fuente se genera una especificación OpenAPI 3.0.

Funciones clave

  • 01API REST unificada para modelos de chat completion y embeddings, asistentes y aplicaciones.
  • 02Basado en Java 21 y Eclipse Vert.x.
  • 03Backends de almacenamiento de blobs conectables, como S3, Azure Blob, Google Cloud Storage y el sistema de archivos.
  • 04Configuración de proveedores de identidad basada en JWT y user-info, con asignación de roles.
  • 05Trazas GenAI de OpenTelemetry y registro de analítica configurable.
  • 06Charts de Helm para desplegar en Kubernetes y una especificación OpenAPI generada.

Casos de uso

  • Colocar una única puerta de enlace de API delante de varios proveedores de LLM y embeddings para aplicaciones internas.
  • Ejecutar una plataforma de IA autohospedada en Kubernetes con autenticación y acceso basado en roles.
  • Añadir trazas y analítica de auditoría al tráfico de LLM en un entorno empresarial.

Inicio rápido

  1. 1

    Configura las variables de entorno GPR_USERNAME y GPR_PASSWORD para acceder a los paquetes de GitHub

  2. 2

    Compila el proyecto con Gradle y Java 21

    ./gradlew build
  3. 3

    Ejecuta el proyecto con Gradle

    ./gradlew :server:run

Antes de usarlo

  • La compilación requiere Java 21 y un token de acceso personal de GitHub con permiso read:packages para obtener los paquetes de JClouds.
  • Para que sea útil en la práctica, es necesario configurarlo mediante archivos de configuración estática y dinámica.

En colecciones

Temas

Preguntas frecuentes

¿Qué es ai-dial-core?
Proxy HTTP basado en Java que ofrece una API unificada para varios modelos de chat completion y embeddings, asistentes y aplicaciones. DIAL Core es el componente principal del servidor de la plataforma AI DIAL. Se sitúa entre las aplicaciones cliente y varios proveedores de modelos, y expone una única API REST para chat completion, modelos de embeddings, asistentes y aplicaciones, de modo que los clientes no necesitan integrar cada proveedor por separado.
¿ai-dial-core es gratuito? ¿Qué licencia tiene?
ai-dial-core es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿ai-dial-core sigue mantenido?
Mantenimiento activo. El último commit de ai-dial-core fue el 5 nov 2026.
¿Para qué puedo usar ai-dial-core?
Colocar una única puerta de enlace de API delante de varios proveedores de LLM y embeddings para aplicaciones internas. Ejecutar una plataforma de IA autohospedada en Kubernetes con autenticación y acceso basado en roles. Añadir trazas y analítica de auditoría al tráfico de LLM en un entorno empresarial.
¿Cómo se instala ai-dial-core?
Configura las variables de entorno GPR_USERNAME y GPR_PASSWORD para acceder a los paquetes de GitHub Compila el proyecto con Gradle y Java 21: ./gradlew build Ejecuta el proyecto con Gradle: ./gradlew :server:run
¿Dónde consigo ai-dial-core?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/epam/ai-dial-core

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados