“gpu-scheduling” 관련 오픈소스 프로젝트

GPU 스케줄링과 모델 수명 주기 관리를 지원하며 SGLang, vLLM, TensorRT-LLM, Triton 서빙을 배포하고 관리하는 Kubernetes 오퍼레이터입니다.

Kubernetes 기반 클라우드 네이티브 MLOps 플랫폼: 노트북, 드래그 앤 드롭 파이프라인, 분산 학습 및 LLM 서빙