GPU 클라우드, Kubernetes, VM, 온프레미스 클러스터 전반에서 학습 및 추론용 GPU 컴퓨팅을 프로비저닝하고 오케스트레이션하는 오픈소스 컨트롤 플레인입니다.
skypilot-org/skypilot
하나의 인터페이스로 Kubernetes, Slurm, 20개 이상의 클라우드 및 GPU 제공업체에서 AI 워크로드를 실행·관리·확장하는 오픈소스 시스템입니다.
- 스타
- 10,723
- 포크
- 1,296
- 열린 이슈
- 504
- 마지막 커밋
- 10시간 전
어떤 프로젝트인가요?
SkyPilot은 보유하거나 임대할 수 있는 인프라에서 AI 워크로드를 실행·관리·확장하는 시스템입니다. 사용자는 필요한 리소스, 동기화할 데이터, 설정 명령, 실행 명령을 YAML 파일이나 Python API로 정의합니다. 그러면 SkyPilot은 예약된 GPU, Kubernetes 클러스터, Slurm 클러스터 또는 여러 클라우드 제공업체에서 사용 가능한 용량을 찾고, 머신을 프로비저닝한 뒤 로그를 스트리밍합니다. 제공업체에서 용량 부족 오류가 발생하면 자동으로 다른 곳으로 전환합니다.
인프라 팀을 위해 SkyPilot은 여러 클러스터와 클라우드를 아우르는 컨트롤 플레인 역할을 합니다. gang scheduling, 멀티 노드 작업, 작업 큐잉, 유휴 리소스 자동 중지, 공유 클러스터의 워크로드 binpacking을 지원합니다. 모든 작업은 사용자의 자체 클라우드 계정, VPC, 클러스터에서 실행됩니다.
또한 SkyPilot은 pod에 SSH로 접속하고, 코드를 동기화하고, IDE를 연결해 Kubernetes에서 대화형으로 개발할 수 있도록 지원합니다. vLLM, SGLang, Ollama 배포와 같은 인기 모델의 학습, 서빙, 파인튜닝 예제도 제공합니다.
핵심 기능
- 01하나의 작업 정의로 Kubernetes, Slurm, 예약된 GPU 또는 20개 이상의 클라우드 제공업체에서 작업을 실행합니다.
- 02가장 저렴한 사용 가능 용량을 찾고, 용량 부족 오류가 발생하면 자동으로 다른 곳으로 전환합니다.
- 03Kubernetes에서 gang scheduling, 멀티 노드 작업, 작업 큐잉을 지원합니다.
- 04유휴 리소스를 자동으로 중지하고 공유 클러스터에서 워크로드를 binpacking합니다.
- 05Kubernetes pod에 SSH로 접속하고, 코드를 동기화하고, IDE를 연결해 대화형으로 개발할 수 있습니다.
활용 사례
- 용량 부족을 피하기 위해 여러 GPU 클라우드에서 대형 모델을 학습하거나 파인튜닝합니다.
- 자체 GPU에서 vLLM 또는 SGLang 같은 오픈소스 LLM 엔드포인트를 서빙합니다.
- 인프라 담당자가 관리하는 공유 Kubernetes 클러스터에서 ML 팀에 간편한 작업 인터페이스를 제공합니다.
- 자동 큐잉과 정리 기능을 활용해 배치 실험이나 하이퍼파라미터 탐색을 실행합니다.
빠른 시작
- 1
사용할 클라우드를 선택해 uv로 SkyPilot 설치하기
uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]" - 2
예제 프로젝트를 workdir 위치에 클론하기
git clone https://github.com/pytorch/examples.git ~/torch_examples - 3
README의 예제 작업 YAML을 my_task.yaml로 저장하기
- 4
인프라에서 작업 실행하기(GPU 액세스 필요)
sky launch my_task.yaml
사용 전 알아둘 점
- 실제 워크로드를 실행하려면 클라우드 계정과 할당량 또는 Kubernetes/Slurm 클러스터가 필요합니다.
- 예제를 실행하려면 GPU 인스턴스에 액세스할 수 있어야 합니다.
토픽
자주 묻는 질문
- skypilot은(는) 무엇인가요?
- 하나의 인터페이스로 Kubernetes, Slurm, 20개 이상의 클라우드 및 GPU 제공업체에서 AI 워크로드를 실행·관리·확장하는 오픈소스 시스템입니다. SkyPilot은 보유하거나 임대할 수 있는 인프라에서 AI 워크로드를 실행·관리·확장하는 시스템입니다. 사용자는 필요한 리소스, 동기화할 데이터, 설정 명령, 실행 명령을 YAML 파일이나 Python API로 정의합니다. 그러면 SkyPilot은 예약된 GPU, Kubernetes 클러스터, Slurm 클러스터 또는 여러 클라우드 제공업체에서 사용 가능한 용량을 찾고, 머신을 프로비저닝한 뒤 로그를 스트리밍합니다. 제공업체에서 용량 부족 오류가 발생하면 자동으로 다른 곳으로 전환합니다.
- skypilot은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- skypilot은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- skypilot은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. skypilot의 마지막 커밋은 2026년 10월 20일입니다.
- skypilot은(는) 어디에 사용할 수 있나요?
- 용량 부족을 피하기 위해 여러 GPU 클라우드에서 대형 모델을 학습하거나 파인튜닝합니다. 자체 GPU에서 vLLM 또는 SGLang 같은 오픈소스 LLM 엔드포인트를 서빙합니다. 인프라 담당자가 관리하는 공유 Kubernetes 클러스터에서 ML 팀에 간편한 작업 인터페이스를 제공합니다. 자동 큐잉과 정리 기능을 활용해 배치 실험이나 하이퍼파라미터 탐색을 실행합니다.
- skypilot는 어떻게 설치하나요?
- 사용할 클라우드를 선택해 uv로 SkyPilot 설치하기: uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]" 예제 프로젝트를 workdir 위치에 클론하기: git clone https://github.com/pytorch/examples.git ~/torch_examples README의 예제 작업 YAML을 my_task.yaml로 저장하기 인프라에서 작업 실행하기(GPU 액세스 필요): sky launch my_task.yaml
- skypilot은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/skypilot-org/skypilot
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
여러 ML 프레임워크의 예측형 및 생성형 AI 모델을 대규모로 배포하고 서빙하는 Kubernetes 네이티브 플랫폼입니다.
Python 및 C++ API를 제공하는, 머신러닝 모델을 구축하고 배포하기 위한 엔드투엔드 오픈소스 플랫폼입니다.
OpenAI 호환 API로 대규모 언어 모델을 빠르고 메모리 효율적으로 실행하고 서빙하는 라이브러리 및 서버입니다.
Ray는 분산 런타임과 AI 라이브러리를 제공해 노트북부터 클러스터까지 Python 및 AI 애플리케이션을 확장하는 통합 프레임워크입니다.
대규모 모델의 분산 학습과 추론을 더 쉽고 효율적으로 지원하는 딥러닝 최적화 라이브러리입니다.