하나의 인터페이스로 Kubernetes, Slurm, 20개 이상의 클라우드 및 GPU 제공업체에서 AI 워크로드를 실행·관리·확장하는 오픈소스 시스템입니다.
kubeflow/trainer
PyTorch, JAX, XGBoost 등 다양한 프레임워크에서 분산 AI 모델 학습과 LLM 파인튜닝을 지원하는 Kubernetes 네이티브 플랫폼입니다.
- 스타
- 2,251
- 포크
- 1,087
- 열린 이슈
- 251
- 마지막 커밋
- 14시간 전
어떤 프로젝트인가요?
Kubeflow Trainer는 AI 모델 학습과 대규모 언어 모델 파인튜닝을 위한 Kubernetes 네이티브 플랫폼입니다. PyTorch, MLX, HuggingFace, DeepSpeed, Megatron-LM, JAX, XGBoost 등의 프레임워크에서 작업을 실행하며, TrainJob 및 Runtime API를 기반으로 구축되었습니다.
이 프로젝트는 MPI를 Kubernetes에 도입해 여러 노드와 GPU를 사용하는 작업이 낮은 지연 시간으로 통신할 수 있도록 합니다. 토폴로지를 고려한 스케줄링을 위해 Kueue 및 Volcano와 연동하고, Kubernetes와 Slurm 클러스터를 함께 사용하는 환경을 위해 Slurm Bridge와 통합하며, GPU를 고려한 배치를 위해 KAI Scheduler와 연동합니다. 오케스트레이션에는 JobSet과 LeaderWorkerSet을 재사용합니다.
분산 데이터 캐시는 대규모 데이터셋을 제로 카피 전송 방식으로 GPU 노드에 스트리밍합니다. Kubeflow Python SDK로 작업을 실행할 수 있습니다. 현재 알파 단계이며 API는 변경될 수 있습니다.
핵심 기능
- 01Kubernetes에서 분산 학습 및 LLM 파인튜닝 작업을 실행합니다.
- 02PyTorch, JAX, XGBoost, HuggingFace, DeepSpeed, Megatron-LM을 지원합니다.
- 03MPI를 사용해 여러 노드와 GPU에 걸친 작업을 오케스트레이션합니다.
- 04스케줄링을 위해 Kueue, Volcano, Slurm Bridge, KAI Scheduler와 연동합니다.
- 05GPU 노드에 제로 카피 전송을 지원하는 분산 데이터 캐시를 제공합니다.
- 06TrainJob을 제출할 수 있는 Python SDK를 제공합니다.
활용 사례
- Kubernetes GPU 클러스터에서 대규모 언어 모델을 파인튜닝합니다.
- HPC 스타일 인프라에서 MPI 기반의 멀티노드 학습을 실행합니다.
- 하이브리드 클러스터에서 Slurm 작업과 함께 AI 학습을 스케줄링합니다.
빠른 시작
- 1
Kubeflow Trainer 문서의 공식 Getting Started 가이드에 따라 설치하세요
사용 전 알아둘 점
- 이 프로젝트는 알파 단계이며 API가 변경될 수 있습니다.
- Kubernetes용으로 만들어졌으므로 실행하려면 Kubernetes 클러스터가 필요합니다.
토픽
자주 묻는 질문
- trainer은(는) 무엇인가요?
- PyTorch, JAX, XGBoost 등 다양한 프레임워크에서 분산 AI 모델 학습과 LLM 파인튜닝을 지원하는 Kubernetes 네이티브 플랫폼입니다. Kubeflow Trainer는 AI 모델 학습과 대규모 언어 모델 파인튜닝을 위한 Kubernetes 네이티브 플랫폼입니다. PyTorch, MLX, HuggingFace, DeepSpeed, Megatron-LM, JAX, XGBoost 등의 프레임워크에서 작업을 실행하며, TrainJob 및 Runtime API를 기반으로 구축되었습니다.
- trainer은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- trainer은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- trainer은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. trainer의 마지막 커밋은 2026년 10월 21일입니다.
- trainer은(는) 어디에 사용할 수 있나요?
- Kubernetes GPU 클러스터에서 대규모 언어 모델을 파인튜닝합니다. HPC 스타일 인프라에서 MPI 기반의 멀티노드 학습을 실행합니다. 하이브리드 클러스터에서 Slurm 작업과 함께 AI 학습을 스케줄링합니다.
- trainer는 어떻게 설치하나요?
- Kubeflow Trainer 문서의 공식 Getting Started 가이드에 따라 설치하세요
- trainer은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/kubeflow/trainer
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
대규모 AI 모델의 학습과 추론을 위한 PyTorch 기반 분산 시스템으로, 병렬화, 메모리 최적화, 이기종 학습을 지원합니다.
노트북 프로토타입부터 프로덕션 오케스트레이터까지, AI 및 ML 워크플로를 구축하고 확장·배포하는 Python 프레임워크입니다.
대규모 모델의 분산 학습과 추론을 더 쉽고 효율적으로 지원하는 딥러닝 최적화 라이브러리입니다.
대형 언어 모델을 레이어별로 실행해 양자화 없이도 70B급 모델을 단일 4GB GPU에서 추론할 수 있는 Python 라이브러리입니다.
네트워크를 통해 CPU 전용 머신에서 원격 서버의 CUDA GPU를 사용할 수 있게 해주는 GPU-over-IP 브리지입니다.