LLM、MCPツール、エージェント間の通信にセキュリティ、可観測性、ガバナンスを加えるオープンソースのAIエージェント向けプロキシ。
epam/ai-dial-core
複数のチャット補完・埋め込みモデル、アシスタント、アプリケーションに統一APIを提供するJava製HTTPプロキシ。
- スター
- 662
- フォーク
- 44
- 未解決の Issue
- 157
- 最終コミット
- 20 時間前
これは何?
DIAL CoreはAI DIALプラットフォームの中核となるサーバーコンポーネントです。クライアントアプリケーションと複数のモデルプロバイダーの間に位置し、チャット補完、埋め込みモデル、アシスタント、アプリケーション向けの単一のREST APIを提供するため、クライアント側でプロバイダーごとに個別の連携を実装する必要がありません。
サーバーはJava 21で実装され、Eclipse Vert.xを基盤としています。起動時に読み込む静的設定と、指定した間隔で再読み込みする動的な設定ファイルで構成します。設定対象には、JWT検証用のIDプロバイダー、S3、Azure Blob、Google Cloud Storage、ローカルファイルシステムなどのBlobストレージバックエンド、オプションのKMS暗号化に対応したツールセットのOAuthセキュリティ、分析機能やOpenTelemetryトレーシングのオプションが含まれます。
Gradleでビルドして実行するほか、IDEから起動したり、umbrellaのdialまたはdial-core Helm chartを使ってKubernetesにデプロイしたりできます。OpenAPI 3.0仕様はソースコードから生成されます。
主な機能
- 01チャット補完・埋め込みモデル、アシスタント、アプリケーションに対応する統一REST API。
- 02Java 21とEclipse Vert.xを基盤に構築。
- 03S3、Azure Blob、Google Cloud Storage、ローカルファイルシステムなど、プラグイン可能なBlobストレージバックエンド。
- 04ロールマッピングに対応した、JWTおよびユーザー情報ベースのIDプロバイダー設定。
- 05OpenTelemetry GenAIトレーシングと、設定可能な分析ログ。
- 06Kubernetesデプロイ用のHelm chartと、自動生成されるOpenAPI仕様。
ユースケース
- 社内アプリケーション向けに、複数のLLM・埋め込みプロバイダーの前段に単一のAPIゲートウェイを設置する。
- 認証とロールベースのアクセス制御を備えたAIプラットフォームを、Kubernetes上でセルフホストする。
- エンタープライズ環境のLLMトラフィックに、トレーシングと監査分析を追加する。
クイックスタート
- 1
GitHub のパッケージにアクセスするため、環境変数 GPR_USERNAME と GPR_PASSWORD を設定します
- 2
Gradle と Java 21 でプロジェクトをビルドします
./gradlew build - 3
Gradle でプロジェクトを実行します
./gradlew :server:run
使う前に知っておきたいこと
- ビルドには Java 21 と、JClouds パッケージを取得するための read:packages 権限を持つ GitHub 個人アクセストークンが必要です。
- 実際に利用するには、静的設定ファイルと動的設定ファイルで設定する必要があります。
収録されている特集
トピック
よくある質問
- ai-dial-core とは?
- 複数のチャット補完・埋め込みモデル、アシスタント、アプリケーションに統一APIを提供するJava製HTTPプロキシ。 DIAL CoreはAI DIALプラットフォームの中核となるサーバーコンポーネントです。クライアントアプリケーションと複数のモデルプロバイダーの間に位置し、チャット補完、埋め込みモデル、アシスタント、アプリケーション向けの単一のREST APIを提供するため、クライアント側でプロバイダーごとに個別の連携を実装する必要がありません。
- ai-dial-core は無料で使えますか?ライセンスは?
- ai-dial-core は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- ai-dial-core は今もメンテナンスされていますか?
- 活発にメンテナンス中。ai-dial-core の最終コミットは 2026年11月5日 です。
- ai-dial-core は何に使えますか?
- 社内アプリケーション向けに、複数のLLM・埋め込みプロバイダーの前段に単一のAPIゲートウェイを設置する。 認証とロールベースのアクセス制御を備えたAIプラットフォームを、Kubernetes上でセルフホストする。 エンタープライズ環境のLLMトラフィックに、トレーシングと監査分析を追加する。
- ai-dial-core のインストール方法は?
- GitHub のパッケージにアクセスするため、環境変数 GPR_USERNAME と GPR_PASSWORD を設定します Gradle と Java 21 でプロジェクトをビルドします: ./gradlew build Gradle でプロジェクトを実行します: ./gradlew :server:run
- ai-dial-core はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/epam/ai-dial-core
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
Envoyを基盤とするオープンソースのコントロールプレーン。ホスト型LLMプロバイダー、セルフホスト型推論、MCPサーバーを、アプリ向けの単一のOpenAI互換APIで利用できます。
IstioとEnvoyをベースにしたクラウドネイティブなAPIゲートウェイ。LLMプロバイダー向けのAIゲートウェイ機能とMCPサーバーのホスティングに対応。
OllamaサーバーのREST APIを呼び出すJavaライブラリ。チャット、生成、ツール、埋め込み、モデル管理に対応。
MCP、A2A、REST/gRPC APIを単一のエンドポイントに集約し、ガバナンス、検出、可観測性を提供するオープンソースのAIゲートウェイ兼レジストリ。
OpenAI、Anthropic、Google、Mistral、DeepSeekなど複数のAIプロバイダーに対応する、チャット・音声・埋め込み生成向けの統一Ruby API。