여러 ML 프레임워크의 예측형 및 생성형 AI 모델을 대규모로 배포하고 서빙하는 Kubernetes 네이티브 플랫폼입니다.
dstackai/dstack
GPU 클라우드, Kubernetes, VM, 온프레미스 클러스터 전반에서 학습 및 추론용 GPU 컴퓨팅을 프로비저닝하고 오케스트레이션하는 오픈소스 컨트롤 플레인입니다.
- 스타
- 2,284
- 포크
- 270
- 열린 이슈
- 63
- 마지막 커밋
- 6시간 전
어떤 프로젝트인가요?
dstack은 GPU 프로비저닝과 오케스트레이션을 위한 통합 컨트롤 플레인입니다. 플랫폼마다 별도로 관리하는 대신 하나의 구성 세트로 GPU 클라우드, Kubernetes 클러스터, VM 또는 베어메탈 머신에서 개발 환경, 학습 작업, 추론 서비스를 실행할 수 있습니다.
워크로드는 저장소의 YAML 파일로 정의하고 dstack CLI 또는 프로그래밍 방식의 API로 적용합니다. 시스템이 프로비저닝, 작업 대기열 관리, 자동 스케일링, 네트워킹, 볼륨, 포트 포워딩을 처리하고, 실행 실패 및 용량 부족 오류로부터 복구합니다. NVIDIA, AMD, Google TPU, Tenstorrent 가속기를 지원하며, 클라우드 백엔드를 구성하지 않고도 SSH fleet을 통해 온프레미스 머신을 추가할 수 있습니다.
이 프로젝트에는 AI 코딩 에이전트가 fleet을 생성하고 CLI를 통해 워크로드를 제출할 수 있도록 하는 agent skill도 포함되어 있으며, NVIDIA Dynamo 및 Slurm 같은 도구와 통합됩니다.
핵심 기능
- 01클라우드, Kubernetes, 온프레미스 머신 전반의 GPU fleet을 프로비저닝하고 관리합니다.
- 02YAML 구성으로 개발 환경, 학습 작업, 추론 서비스를 실행합니다.
- 03NVIDIA, AMD, Google TPU, Tenstorrent 가속기를 지원합니다.
- 04작업 대기열 관리, 자동 스케일링, 볼륨, 포트 포워딩을 자동으로 처리합니다.
- 05AI 코딩 에이전트가 CLI를 통해 워크로드를 제출할 수 있도록 agent skill을 제공합니다.
활용 사례
- 클라우드와 온프레미스 하드웨어가 혼합된 환경에서 연구팀이 GPU 풀을 공유합니다.
- Kubernetes에서 확장 가능한 엔드포인트로 LLM 추론 서비스를 배포합니다.
- 플랫폼별 스크립트를 작성하지 않고 멀티노드 파인튜닝 또는 학습 작업을 실행합니다.
- AI 에이전트가 팀을 대신해 컴퓨팅 리소스를 프로비저닝하고 실험을 시작하도록 합니다.
빠른 시작
- 1
서버를 설치하고 시작합니다
uv tool install "dstack[all]" -U - 2
서버를 실행합니다
dstack server - 3
CLI를 설치합니다(서버와 함께 설치되지 않은 경우에만)
uv tool install dstack -U - 4
프로젝트를 추가해 CLI가 서버를 가리키도록 설정합니다
dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
사용 전 알아둘 점
- 클라우드 또는 Kubernetes 컴퓨팅 리소스를 오케스트레이션하려면 먼저 백엔드를 구성해야 합니다.
- 서버를 실행하려면 Git과 OpenSSH가 필요하며, Linux, macOS 또는 WSL 2를 통한 Windows에서 실행됩니다.
토픽
자주 묻는 질문
- dstack은(는) 무엇인가요?
- GPU 클라우드, Kubernetes, VM, 온프레미스 클러스터 전반에서 학습 및 추론용 GPU 컴퓨팅을 프로비저닝하고 오케스트레이션하는 오픈소스 컨트롤 플레인입니다. dstack은 GPU 프로비저닝과 오케스트레이션을 위한 통합 컨트롤 플레인입니다. 플랫폼마다 별도로 관리하는 대신 하나의 구성 세트로 GPU 클라우드, Kubernetes 클러스터, VM 또는 베어메탈 머신에서 개발 환경, 학습 작업, 추론 서비스를 실행할 수 있습니다.
- dstack은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- dstack은(는) MPL-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- dstack은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. dstack의 마지막 커밋은 2026년 10월 20일입니다.
- dstack은(는) 어디에 사용할 수 있나요?
- 클라우드와 온프레미스 하드웨어가 혼합된 환경에서 연구팀이 GPU 풀을 공유합니다. Kubernetes에서 확장 가능한 엔드포인트로 LLM 추론 서비스를 배포합니다. 플랫폼별 스크립트를 작성하지 않고 멀티노드 파인튜닝 또는 학습 작업을 실행합니다. AI 에이전트가 팀을 대신해 컴퓨팅 리소스를 프로비저닝하고 실험을 시작하도록 합니다.
- dstack는 어떻게 설치하나요?
- 서버를 설치하고 시작합니다: uv tool install "dstack[all]" -U 서버를 실행합니다: dstack server CLI를 설치합니다(서버와 함께 설치되지 않은 경우에만): uv tool install dstack -U 프로젝트를 추가해 CLI가 서버를 가리키도록 설정합니다: dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
- dstack은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/dstackai/dstack
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
AX는 Kubernetes 클러스터에서 다수의 샌드박스 자율 에이전트 작업을 실행하는 오픈소스 선언형 오케스트레이터입니다.
Kubernetes 기반으로 자체 클라우드를 구축할 수 있는 무료 오픈소스 플랫폼으로, 클러스터, 데이터베이스, VM, 로드 밸런서를 위한 REST API를 제공합니다.
대형 언어 모델을 레이어별로 실행해 양자화 없이도 70B급 모델을 단일 4GB GPU에서 추론할 수 있는 Python 라이브러리입니다.
소비자용 GPU와 CPU에서 DeepSeek-V4, Qwen3.6 같은 대형 오픈 웨이트 모델을 실행하는 엣지 네이티브 MoE 서빙 엔진입니다.
자연어와 Terraform, Kubernetes, SQL, OpenAPI 같은 실제 시스템 소스를 편집 가능한 draw.io 아키텍처 다이어그램으로 변환하는 에이전트 스킬입니다.