lupinemachines/lupine

어떤 프로젝트인가요?

핵심 기능

• 01CUDA 드라이버 및 NVML 호출을 전달해 원격 GPU를 로컬에서 사용할 수 있으며, nvidia-smi에서도 조회할 수 있습니다.
• 02하나의 엔드포인트 목록에 여러 서버를 지정하고, 각 서버의 GPU를 하나의 장치 목록으로 통합합니다.
• 03GPU 메모리와 사용률, 클라이언트별 프로세스의 Prometheus 메트릭을 제공합니다.
• 04TLS 종료 프록시 뒤의 HTTPS 엔드포인트를 지원합니다.
• 05CUDA 및 Ubuntu 버전 조합별 Docker 이미지를 제공하며, 서버에서 HIP도 지원합니다.

활용 사례

• CPU 전용 개발 머신이나 CI 머신에서 원격 GPU 서버를 대상으로 GPU 학습 또는 추론을 실행합니다.
• 네트워크를 통해 서버 랙의 GPU를 여러 클라이언트 머신과 공유합니다.
• Prometheus를 통해 원격 GPU 메모리와 사용률을 모니터링합니다.

빠른 시작

1. 1

   GPU 머신에서 서버를 실행합니다

   docker run --rm --gpus all -p 14833:14833 ghcr.io/lupinemachines/lupine-server:cuda-13.3.1-ubuntu24.04
2. 2

   해당 서버를 지정해 클라이언트를 실행합니다

   docker run --rm -it -e LUPINE_SERVER=<server>:14833 ghcr.io/lupinemachines/lupine-client:cuda-13.3.1-ubuntu24.04 nvidia-smi

사용 전 알아둘 점

• !서버를 실행하는 GPU 머신에는 Docker와 CUDA를 지원하는 GPU가 필요합니다.
• !클라이언트 이미지는 Ubuntu 기반이며, 서버 이미지는 특정 CUDA 버전을 대상으로 합니다.

토픽

자주 묻는 질문

lupine은(는) 무엇인가요?

네트워크를 통해 CPU 전용 머신에서 원격 서버의 CUDA GPU를 사용할 수 있게 해주는 GPU-over-IP 브리지입니다. LUPINE은 클라이언트 머신에서 발생한 CUDA 드라이버 및 NVML 호출을 실제 GPU가 장착된 서버로 전달합니다. 클라이언트의 프로그램은 자체 CUDA runtime과 라이브러리를 변경 없이 사용하며, 드라이버 호출만 네트워크를 통과합니다. 서버는 GPU 머신에서 Docker로 실행되고, 클라이언트 컨테이너는 libcuda 및 NVML shim을 제공해 nvidia-smi 같은 명령어로 원격 장치를 조회할 수 있습니다.

lupine은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

lupine은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

lupine은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. lupine의 마지막 커밋은 2026년 10월 15일입니다.

lupine은(는) 어디에 사용할 수 있나요?

CPU 전용 개발 머신이나 CI 머신에서 원격 GPU 서버를 대상으로 GPU 학습 또는 추론을 실행합니다. 네트워크를 통해 서버 랙의 GPU를 여러 클라이언트 머신과 공유합니다. Prometheus를 통해 원격 GPU 메모리와 사용률을 모니터링합니다.

lupine는 어떻게 설치하나요?

GPU 머신에서 서버를 실행합니다: docker run --rm --gpus all -p 14833:14833 ghcr.io/lupinemachines/lupine-server:cuda-13.3.1-ubuntu24.04 해당 서버를 지정해 클라이언트를 실행합니다: docker run --rm -it -e LUPINE_SERVER=<server>:14833 ghcr.io/lupinemachines/lupine-client:cuda-13.3.1-ubuntu24.04 nvidia-smi

lupine은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/lupinemachines/lupine