Repolode
Enviar
epam

epam/ai-dial-core

Proxy HTTP em Java que oferece uma API unificada para vários modelos de chat completion e embeddings, assistentes e aplicações.

Ver no GitHubSite
Estrelas
662
Forks
44
Issues abertas
157
Último commit
há 20 horas

O que é?

O DIAL Core é o principal componente de servidor da plataforma AI DIAL. Ele fica entre as aplicações cliente e vários provedores de modelos, oferecendo uma única API REST para chat completion, modelos de embeddings, assistentes e aplicações, para que os clientes não precisem integrar cada provedor separadamente.

O servidor é escrito em Java 21 e baseado no Eclipse Vert.x. Ele é configurado por meio de definições estáticas carregadas na inicialização e arquivos de configuração dinâmica que são recarregados em intervalos definidos. A configuração abrange provedores de identidade para verificação de JWT, backends de armazenamento de blobs, como S3, Azure Blob, Google Cloud Storage e o sistema de arquivos, segurança OAuth para toolsets com criptografia KMS opcional, além de opções de analytics e tracing com OpenTelemetry.

O projeto pode ser compilado e executado com Gradle, iniciado em uma IDE ou implantado no Kubernetes por meio dos Helm charts umbrella dial ou dial-core. Uma especificação OpenAPI 3.0 é gerada a partir do código-fonte.

Recursos principais

  • 01API REST unificada para modelos de chat completion e embeddings, assistentes e aplicações.
  • 02Baseado em Java 21 e Eclipse Vert.x.
  • 03Backends de armazenamento de blobs plugáveis, incluindo S3, Azure Blob, Google Cloud Storage e o sistema de arquivos.
  • 04Configuração de provedores de identidade baseada em JWT e informações do usuário, com mapeamento de funções.
  • 05Tracing GenAI com OpenTelemetry e registro de analytics configurável.
  • 06Helm charts para implantação no Kubernetes e especificação OpenAPI gerada.

Casos de uso

  • Colocar um único API gateway diante de vários provedores de LLM e embeddings para aplicações internas.
  • Executar uma plataforma de IA auto-hospedada no Kubernetes com autenticação e controle de acesso baseado em funções.
  • Adicionar tracing e analytics de auditoria ao tráfego de LLM em um ambiente corporativo.

Início rápido

  1. 1

    Configure as variáveis de ambiente GPR_USERNAME e GPR_PASSWORD para acessar os pacotes do GitHub

  2. 2

    Compile o projeto com Gradle e Java 21

    ./gradlew build
  3. 3

    Execute o projeto com Gradle

    ./gradlew :server:run

Antes de usar

  • A compilação requer Java 21 e um token de acesso pessoal do GitHub com a permissão read:packages para obter os pacotes do JClouds.
  • Para que seja útil na prática, é necessário configurá-lo por meio de arquivos de configuração estática e dinâmica.

Em coleções

Frameworks de microsserviços e infraestrutura de serviços

Tópicos

#llm#ai-gateway#java#api-gateway#chat-completion#embeddings#kubernetes#openapi#ai-dial

Perguntas frequentes

O que é ai-dial-core?
Proxy HTTP em Java que oferece uma API unificada para vários modelos de chat completion e embeddings, assistentes e aplicações. O DIAL Core é o principal componente de servidor da plataforma AI DIAL. Ele fica entre as aplicações cliente e vários provedores de modelos, oferecendo uma única API REST para chat completion, modelos de embeddings, assistentes e aplicações, para que os clientes não precisem integrar cada provedor separadamente.
ai-dial-core é gratuito? Qual é a licença?
ai-dial-core é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
ai-dial-core ainda é mantido?
Manutenção ativa. O último commit de ai-dial-core foi em 5 de nov. de 2026.
Para que posso usar ai-dial-core?
Colocar um único API gateway diante de vários provedores de LLM e embeddings para aplicações internas. Executar uma plataforma de IA auto-hospedada no Kubernetes com autenticação e controle de acesso baseado em funções. Adicionar tracing e analytics de auditoria ao tráfego de LLM em um ambiente corporativo.
Como instalar ai-dial-core?
Configure as variáveis de ambiente GPR_USERNAME e GPR_PASSWORD para acessar os pacotes do GitHub Compile o projeto com Gradle e Java 21: ./gradlew build Execute o projeto com Gradle: ./gradlew :server:run
Onde consigo ai-dial-core?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/epam/ai-dial-core

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados