Repolode
epam

epam/ai-dial-core

複数のチャット補完・埋め込みモデル、アシスタント、アプリケーションに統一APIを提供するJava製HTTPプロキシ。

スター
662
フォーク
44
未解決の Issue
157
最終コミット
20 時間前

これは何?

DIAL CoreはAI DIALプラットフォームの中核となるサーバーコンポーネントです。クライアントアプリケーションと複数のモデルプロバイダーの間に位置し、チャット補完、埋め込みモデル、アシスタント、アプリケーション向けの単一のREST APIを提供するため、クライアント側でプロバイダーごとに個別の連携を実装する必要がありません。

サーバーはJava 21で実装され、Eclipse Vert.xを基盤としています。起動時に読み込む静的設定と、指定した間隔で再読み込みする動的な設定ファイルで構成します。設定対象には、JWT検証用のIDプロバイダー、S3、Azure Blob、Google Cloud Storage、ローカルファイルシステムなどのBlobストレージバックエンド、オプションのKMS暗号化に対応したツールセットのOAuthセキュリティ、分析機能やOpenTelemetryトレーシングのオプションが含まれます。

Gradleでビルドして実行するほか、IDEから起動したり、umbrellaのdialまたはdial-core Helm chartを使ってKubernetesにデプロイしたりできます。OpenAPI 3.0仕様はソースコードから生成されます。

主な機能

  • 01チャット補完・埋め込みモデル、アシスタント、アプリケーションに対応する統一REST API。
  • 02Java 21とEclipse Vert.xを基盤に構築。
  • 03S3、Azure Blob、Google Cloud Storage、ローカルファイルシステムなど、プラグイン可能なBlobストレージバックエンド。
  • 04ロールマッピングに対応した、JWTおよびユーザー情報ベースのIDプロバイダー設定。
  • 05OpenTelemetry GenAIトレーシングと、設定可能な分析ログ。
  • 06Kubernetesデプロイ用のHelm chartと、自動生成されるOpenAPI仕様。

ユースケース

  • 社内アプリケーション向けに、複数のLLM・埋め込みプロバイダーの前段に単一のAPIゲートウェイを設置する。
  • 認証とロールベースのアクセス制御を備えたAIプラットフォームを、Kubernetes上でセルフホストする。
  • エンタープライズ環境のLLMトラフィックに、トレーシングと監査分析を追加する。

クイックスタート

  1. 1

    GitHub のパッケージにアクセスするため、環境変数 GPR_USERNAME と GPR_PASSWORD を設定します

  2. 2

    Gradle と Java 21 でプロジェクトをビルドします

    ./gradlew build
  3. 3

    Gradle でプロジェクトを実行します

    ./gradlew :server:run

使う前に知っておきたいこと

  • ビルドには Java 21 と、JClouds パッケージを取得するための read:packages 権限を持つ GitHub 個人アクセストークンが必要です。
  • 実際に利用するには、静的設定ファイルと動的設定ファイルで設定する必要があります。

収録されている特集

トピック

よくある質問

ai-dial-core とは?
複数のチャット補完・埋め込みモデル、アシスタント、アプリケーションに統一APIを提供するJava製HTTPプロキシ。 DIAL CoreはAI DIALプラットフォームの中核となるサーバーコンポーネントです。クライアントアプリケーションと複数のモデルプロバイダーの間に位置し、チャット補完、埋め込みモデル、アシスタント、アプリケーション向けの単一のREST APIを提供するため、クライアント側でプロバイダーごとに個別の連携を実装する必要がありません。
ai-dial-core は無料で使えますか?ライセンスは?
ai-dial-core は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
ai-dial-core は今もメンテナンスされていますか?
活発にメンテナンス中。ai-dial-core の最終コミットは 2026年11月5日 です。
ai-dial-core は何に使えますか?
社内アプリケーション向けに、複数のLLM・埋め込みプロバイダーの前段に単一のAPIゲートウェイを設置する。 認証とロールベースのアクセス制御を備えたAIプラットフォームを、Kubernetes上でセルフホストする。 エンタープライズ環境のLLMトラフィックに、トレーシングと監査分析を追加する。
ai-dial-core のインストール方法は?
GitHub のパッケージにアクセスするため、環境変数 GPR_USERNAME と GPR_PASSWORD を設定します Gradle と Java 21 でプロジェクトをビルドします: ./gradlew build Gradle でプロジェクトを実行します: ./gradlew :server:run
ai-dial-core はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/epam/ai-dial-core

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト