여러 ML 프레임워크의 예측형 및 생성형 AI 모델을 대규모로 배포하고 서빙하는 Kubernetes 네이티브 플랫폼입니다.
kuberay-project/kuberay
RayCluster, RayJob, RayService 리소스를 통해 Ray 애플리케이션을 배포하고 관리하는 Kubernetes 오퍼레이터입니다.
- 스타
- 2,739
- 포크
- 894
- 열린 이슈
- 718
- 마지막 커밋
- 그저께
어떤 프로젝트인가요?
KubeRay는 Kubernetes에서 Ray 애플리케이션을 실행하기 위한 오픈소스 Kubernetes 오퍼레이터입니다. 세 가지 커스텀 리소스를 정의합니다. RayCluster는 생성, 삭제, 자동 확장, 장애 허용을 포함해 Ray 클러스터의 수명 주기를 관리하고, RayJob은 RayCluster를 생성한 뒤 클러스터가 준비되면 작업을 제출하며 작업 완료 후 클러스터를 삭제하는 옵션을 제공합니다. RayService는 RayCluster와 Ray Serve 배포를 결합하고 무중단 업그레이드를 지원합니다.
핵심 구성 요소는 프로젝트의 일부로 유지 관리됩니다. 선택적으로 사용할 수 있는 생태계 구성 요소로는 kubectl 플러그인(beta), API 서버(alpha), 대시보드(experimental)가 있습니다. Prometheus, Grafana, Volcano, Kueue, Apache YuniKorn 등의 Kubernetes 도구와 통합됩니다. Apache-2.0 라이선스를 적용하는 CNCF 샌드박스 프로젝트입니다.
핵심 기능
- 01자동 확장과 장애 허용을 포함해 RayCluster의 수명 주기를 관리합니다.
- 02RayJob으로 Ray 작업을 실행하고, 작업이 완료되면 클러스터를 선택적으로 삭제합니다.
- 03RayService로 Ray Serve 애플리케이션을 배포하고 무중단 업그레이드를 지원합니다.
- 04일반적인 Ray 워크플로를 위한 선택적 kubectl 플러그인을 제공합니다.
활용 사례
- 공유 Kubernetes 클러스터에서 분산 학습 작업을 실행합니다.
- Kubernetes에서 Ray Serve로 머신러닝 모델을 서빙합니다.
- 임시 Ray 클러스터가 필요한 배치 추론 또는 데이터 처리 작업을 실행합니다.
빠른 시작
- 1
Ray 문서에서 RayCluster 빠른 시작 가이드를 엽니다
- 2
해당 리소스를 사용하려면 Ray 문서에서 RayJob 또는 RayService 빠른 시작 가이드를 따릅니다
사용 전 알아둘 점
- Kubernetes 클러스터가 필요하며, 단일 설치 명령이 아니라 Ray 문서를 따라 설정해야 합니다.
- KubeRay APIServer는 alpha 단계이며, 대시보드는 실험적 기능으로 프로덕션 환경에 적합하지 않습니다.
- kubectl 플러그인은 아직 beta 단계입니다.
토픽
자주 묻는 질문
- kuberay은(는) 무엇인가요?
- RayCluster, RayJob, RayService 리소스를 통해 Ray 애플리케이션을 배포하고 관리하는 Kubernetes 오퍼레이터입니다. KubeRay는 Kubernetes에서 Ray 애플리케이션을 실행하기 위한 오픈소스 Kubernetes 오퍼레이터입니다. 세 가지 커스텀 리소스를 정의합니다. RayCluster는 생성, 삭제, 자동 확장, 장애 허용을 포함해 Ray 클러스터의 수명 주기를 관리하고, RayJob은 RayCluster를 생성한 뒤 클러스터가 준비되면 작업을 제출하며 작업 완료 후 클러스터를 삭제하는 옵션을 제공합니다. RayService는 RayCluster와 Ray Serve 배포를 결합하고 무중단 업그레이드를 지원합니다.
- kuberay은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- kuberay은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- kuberay은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. kuberay의 마지막 커밋은 2026년 10월 20일입니다.
- kuberay은(는) 어디에 사용할 수 있나요?
- 공유 Kubernetes 클러스터에서 분산 학습 작업을 실행합니다. Kubernetes에서 Ray Serve로 머신러닝 모델을 서빙합니다. 임시 Ray 클러스터가 필요한 배치 추론 또는 데이터 처리 작업을 실행합니다.
- kuberay는 어떻게 설치하나요?
- Ray 문서에서 RayCluster 빠른 시작 가이드를 엽니다 해당 리소스를 사용하려면 Ray 문서에서 RayJob 또는 RayService 빠른 시작 가이드를 따릅니다
- kuberay은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/kuberay-project/kuberay
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
GPU 클라우드, Kubernetes, VM, 온프레미스 클러스터 전반에서 학습 및 추론용 GPU 컴퓨팅을 프로비저닝하고 오케스트레이션하는 오픈소스 컨트롤 플레인입니다.
Microsoft가 제공하는 12주 24강 초급 AI 커리큘럼으로, 기호 AI, 신경망, 컴퓨터 비전, NLP, 윤리를 다루며 PyTorch와 TensorFlow 노트북을 제공합니다.
Ray는 분산 런타임과 AI 라이브러리를 제공해 노트북부터 클러스터까지 Python 및 AI 애플리케이션을 확장하는 통합 프레임워크입니다.
Hugging Face가 제공하는 Python 라이브러리로, 한 줄의 코드로 Hub의 공개 AI 데이터셋을 불러오고 Arrow 기반 도구로 효율적으로 전처리합니다.
GitHub의 PyTorch 관련 라이브러리, 모델, 구현체, 튜토리얼과 논문을 모아 분류한 큐레이션 목록입니다.