epam/ai-dial-core

这是什么？

核心功能

• 01为聊天补全、向量嵌入模型、助手和应用提供统一的 REST API。
• 02基于 Java 21 与 Eclipse Vert.x 构建。
• 03支持 S3、Azure Blob、Google Cloud Storage 和本地文件系统等可替换的存储后端。
• 04支持基于 JWT 或用户信息接口的身份提供方配置，并可映射角色。
• 05提供 OpenTelemetry GenAI 链路追踪及可配置的分析日志。
• 06提供 Kubernetes 部署用的 Helm Chart，并自动生成 OpenAPI 规范。

适用场景

• 为内部应用在多个大模型和向量嵌入服务前部署统一的 API 网关。
• 在 Kubernetes 上自建带身份认证与角色权限的 AI 平台。
• 为企业环境中的大模型调用流量增加链路追踪与审计分析。

快速上手

1. 1

   设置 GPR_USERNAME 和 GPR_PASSWORD 环境变量以访问 GitHub 软件包

2. 2

   使用 Gradle 和 Java 21 构建项目

   ./gradlew build
3. 3

   使用 Gradle 运行项目

   ./gradlew :server:run

使用前须知

• !构建需要 Java 21，并需要一个带有 read:packages 权限的 GitHub 个人访问令牌，用于获取 JClouds 软件包。
• !在实际使用前，需要通过静态和动态配置文件进行设置。

收录于专题

标签

常见问题

ai-dial-core 是什么？

基于 Java 的 HTTP 代理，为多种聊天补全与向量嵌入模型、助手及应用提供统一 API。 DIAL Core 是 AI DIAL 平台的核心服务端组件。它位于客户端应用与众多模型提供方之间，通过一套 REST API 统一暴露聊天补全、向量嵌入模型、助手和应用，使客户端无需为每个提供方单独对接。

ai-dial-core 可以免费使用吗？用的什么许可证？

ai-dial-core 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

ai-dial-core 还在维护吗？

活跃维护中。ai-dial-core 最近一次提交是在 2026年11月6日。

ai-dial-core 适合用来做什么？

为内部应用在多个大模型和向量嵌入服务前部署统一的 API 网关。 在 Kubernetes 上自建带身份认证与角色权限的 AI 平台。 为企业环境中的大模型调用流量增加链路追踪与审计分析。

ai-dial-core 怎么安装和运行？

设置 GPR_USERNAME 和 GPR_PASSWORD 环境变量以访问 GitHub 软件包 使用 Gradle 和 Java 21 构建项目: ./gradlew build 使用 Gradle 运行项目: ./gradlew :server:run

在哪里获取 ai-dial-core？

源代码和安装说明在 GitHub 上：https://github.com/epam/ai-dial-core