epam/ai-dial-core

어떤 프로젝트인가요?

핵심 기능

• 01채팅 완성 및 임베딩 모델, 어시스턴트와 애플리케이션 전반에 통합 REST API를 제공합니다.
• 02Java 21 및 Eclipse Vert.x를 기반으로 합니다.
• 03S3, Azure Blob, Google Cloud Storage 및 파일 시스템을 비롯한 플러그인 방식의 Blob 스토리지 백엔드를 지원합니다.
• 04역할 매핑을 포함해 JWT 및 사용자 정보 기반 ID 제공자를 구성할 수 있습니다.
• 05OpenTelemetry GenAI 트레이싱과 설정 가능한 분석 로깅을 지원합니다.
• 06Kubernetes 배포용 Helm 차트와 생성된 OpenAPI 사양을 제공합니다.

활용 사례

• 내부 애플리케이션에서 여러 LLM 및 임베딩 제공자 앞에 단일 API 게이트웨이를 둡니다.
• 인증 및 역할 기반 액세스를 갖춘 자체 호스팅 AI 플랫폼을 Kubernetes에서 운영합니다.
• 엔터프라이즈 환경의 LLM 트래픽에 트레이싱과 감사 분석을 추가합니다.

빠른 시작

1. 1

   GitHub 패키지에 액세스할 수 있도록 GPR_USERNAME 및 GPR_PASSWORD 환경 변수를 설정합니다

2. 2

   Gradle과 Java 21로 프로젝트를 빌드합니다

   ./gradlew build
3. 3

   Gradle로 프로젝트를 실행합니다

   ./gradlew :server:run

사용 전 알아둘 점

• !빌드하려면 Java 21과 JClouds 패키지를 가져오는 데 필요한 read:packages 권한이 있는 GitHub 개인 액세스 토큰이 필요합니다.
• !실제로 사용하려면 정적 및 동적 설정 파일을 통해 구성이 필요합니다.

포함된 컬렉션

토픽

자주 묻는 질문

ai-dial-core은(는) 무엇인가요?

여러 채팅 완성 및 임베딩 모델, 어시스턴트와 애플리케이션을 위한 통합 API를 제공하는 Java 기반 HTTP 프록시입니다. DIAL Core는 AI DIAL 플랫폼의 핵심 서버 구성 요소입니다. 클라이언트 애플리케이션과 여러 모델 제공자 사이에서 동작하며, 채팅 완성, 임베딩 모델, 어시스턴트 및 애플리케이션을 위한 단일 REST API를 제공합니다. 따라서 클라이언트는 각 제공자와 별도로 연동할 필요가 없습니다.

ai-dial-core은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

ai-dial-core은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

ai-dial-core은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. ai-dial-core의 마지막 커밋은 2026년 11월 6일입니다.

ai-dial-core은(는) 어디에 사용할 수 있나요?

내부 애플리케이션에서 여러 LLM 및 임베딩 제공자 앞에 단일 API 게이트웨이를 둡니다. 인증 및 역할 기반 액세스를 갖춘 자체 호스팅 AI 플랫폼을 Kubernetes에서 운영합니다. 엔터프라이즈 환경의 LLM 트래픽에 트레이싱과 감사 분석을 추가합니다.

ai-dial-core는 어떻게 설치하나요?

GitHub 패키지에 액세스할 수 있도록 GPR_USERNAME 및 GPR_PASSWORD 환경 변수를 설정합니다 Gradle과 Java 21로 프로젝트를 빌드합니다: ./gradlew build Gradle로 프로젝트를 실행합니다: ./gradlew :server:run

ai-dial-core은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/epam/ai-dial-core