Repolode
dstackai

dstackai/dstack

GPU 클라우드, Kubernetes, VM, 온프레미스 클러스터 전반에서 학습 및 추론용 GPU 컴퓨팅을 프로비저닝하고 오케스트레이션하는 오픈소스 컨트롤 플레인입니다.

스타
2,284
포크
270
열린 이슈
63
마지막 커밋
6시간 전

어떤 프로젝트인가요?

dstack은 GPU 프로비저닝과 오케스트레이션을 위한 통합 컨트롤 플레인입니다. 플랫폼마다 별도로 관리하는 대신 하나의 구성 세트로 GPU 클라우드, Kubernetes 클러스터, VM 또는 베어메탈 머신에서 개발 환경, 학습 작업, 추론 서비스를 실행할 수 있습니다.

워크로드는 저장소의 YAML 파일로 정의하고 dstack CLI 또는 프로그래밍 방식의 API로 적용합니다. 시스템이 프로비저닝, 작업 대기열 관리, 자동 스케일링, 네트워킹, 볼륨, 포트 포워딩을 처리하고, 실행 실패 및 용량 부족 오류로부터 복구합니다. NVIDIA, AMD, Google TPU, Tenstorrent 가속기를 지원하며, 클라우드 백엔드를 구성하지 않고도 SSH fleet을 통해 온프레미스 머신을 추가할 수 있습니다.

이 프로젝트에는 AI 코딩 에이전트가 fleet을 생성하고 CLI를 통해 워크로드를 제출할 수 있도록 하는 agent skill도 포함되어 있으며, NVIDIA Dynamo 및 Slurm 같은 도구와 통합됩니다.

핵심 기능

  • 01클라우드, Kubernetes, 온프레미스 머신 전반의 GPU fleet을 프로비저닝하고 관리합니다.
  • 02YAML 구성으로 개발 환경, 학습 작업, 추론 서비스를 실행합니다.
  • 03NVIDIA, AMD, Google TPU, Tenstorrent 가속기를 지원합니다.
  • 04작업 대기열 관리, 자동 스케일링, 볼륨, 포트 포워딩을 자동으로 처리합니다.
  • 05AI 코딩 에이전트가 CLI를 통해 워크로드를 제출할 수 있도록 agent skill을 제공합니다.

활용 사례

  • 클라우드와 온프레미스 하드웨어가 혼합된 환경에서 연구팀이 GPU 풀을 공유합니다.
  • Kubernetes에서 확장 가능한 엔드포인트로 LLM 추론 서비스를 배포합니다.
  • 플랫폼별 스크립트를 작성하지 않고 멀티노드 파인튜닝 또는 학습 작업을 실행합니다.
  • AI 에이전트가 팀을 대신해 컴퓨팅 리소스를 프로비저닝하고 실험을 시작하도록 합니다.

빠른 시작

  1. 1

    서버를 설치하고 시작합니다

    uv tool install "dstack[all]" -U
  2. 2

    서버를 실행합니다

    dstack server
  3. 3

    CLI를 설치합니다(서버와 함께 설치되지 않은 경우에만)

    uv tool install dstack -U
  4. 4

    프로젝트를 추가해 CLI가 서버를 가리키도록 설정합니다

    dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da

사용 전 알아둘 점

  • 클라우드 또는 Kubernetes 컴퓨팅 리소스를 오케스트레이션하려면 먼저 백엔드를 구성해야 합니다.
  • 서버를 실행하려면 Git과 OpenSSH가 필요하며, Linux, macOS 또는 WSL 2를 통한 Windows에서 실행됩니다.

토픽

자주 묻는 질문

dstack은(는) 무엇인가요?
GPU 클라우드, Kubernetes, VM, 온프레미스 클러스터 전반에서 학습 및 추론용 GPU 컴퓨팅을 프로비저닝하고 오케스트레이션하는 오픈소스 컨트롤 플레인입니다. dstack은 GPU 프로비저닝과 오케스트레이션을 위한 통합 컨트롤 플레인입니다. 플랫폼마다 별도로 관리하는 대신 하나의 구성 세트로 GPU 클라우드, Kubernetes 클러스터, VM 또는 베어메탈 머신에서 개발 환경, 학습 작업, 추론 서비스를 실행할 수 있습니다.
dstack은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
dstack은(는) MPL-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
dstack은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. dstack의 마지막 커밋은 2026년 10월 20일입니다.
dstack은(는) 어디에 사용할 수 있나요?
클라우드와 온프레미스 하드웨어가 혼합된 환경에서 연구팀이 GPU 풀을 공유합니다. Kubernetes에서 확장 가능한 엔드포인트로 LLM 추론 서비스를 배포합니다. 플랫폼별 스크립트를 작성하지 않고 멀티노드 파인튜닝 또는 학습 작업을 실행합니다. AI 에이전트가 팀을 대신해 컴퓨팅 리소스를 프로비저닝하고 실험을 시작하도록 합니다.
dstack는 어떻게 설치하나요?
서버를 설치하고 시작합니다: uv tool install "dstack[all]" -U 서버를 실행합니다: dstack server CLI를 설치합니다(서버와 함께 설치되지 않은 경우에만): uv tool install dstack -U 프로젝트를 추가해 CLI가 서버를 가리키도록 설정합니다: dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
dstack은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/dstackai/dstack

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트