awslabs/awsome-distributed-ai

어떤 프로젝트인가요?

핵심 기능

• 01SageMaker HyperPod, ParallelCluster, PCS, EKS를 위한 참조 아키텍처
• 02PyTorch FSDP, Megatron-LM, NeMo 학습 예제
• 03vLLM, SGLang, NVIDIA Dynamo 추론 예제
• 04커스텀 AMI 제작을 위한 Packer 및 Ansible 스크립트
• 05GPU 클러스터 상태 점검 및 EFA 모니터링 익스포터
• 06NCCL, NCCOM, NVSHMEM 마이크로 벤치마크

활용 사례

• 대규모 모델 학습을 위한 AWS Slurm 또는 Kubernetes GPU 클러스터 구축
• EKS에서 vLLM 또는 SGLang을 사용해 멀티노드 LLM 추론 배포
• 장시간 학습 작업을 실행하기 전에 GPU 및 네트워크 성능 검증
• Nsight 및 EFA 메트릭으로 분산 워크로드 프로파일링

빠른 시작

1. 1

   examples 디렉터리를 살펴보고 참고할 아키텍처 또는 예제를 선택합니다

2. 2

   선택한 아키텍처 또는 예제의 README를 읽고 설정 안내를 확인합니다

3. 3

   저장소를 로컬 컴퓨터에 클론합니다

   git clone https://github.com/awslabs/awsome-distributed-ai.git

사용 전 알아둘 점

• !AWS 전용 클러스터(SageMaker HyperPod, ParallelCluster, PCS, EKS)를 대상으로 하므로 AWS 계정과 클러스터 설정 없이는 유용하지 않습니다.
• !설치 가능한 단일 패키지가 아니라 참조 아키텍처와 예제 모음이므로 한 번에 설치할 수 없습니다.

포함된 컬렉션

토픽

자주 묻는 질문

awsome-distributed-ai은(는) 무엇인가요?

AWS 클러스터에서 분산 AI 학습과 추론을 실행하기 위한 참조 아키텍처, 템플릿 및 예제 모음입니다. 이 저장소에는 AWS에서 분산 AI 학습과 추론을 실행하기 위한 참조 아키텍처, 배포 템플릿, 실행 가능한 예제가 모여 있습니다. Amazon SageMaker HyperPod, AWS ParallelCluster, AWS Parallel Computing Service, Amazon EKS 등 다양한 클러스터 플랫폼을 다루며, 각 플랫폼을 위한 CloudFormation 및 Terraform 템플릿을 제공합니다.

awsome-distributed-ai은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

awsome-distributed-ai은(는) MIT-0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

awsome-distributed-ai은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. awsome-distributed-ai의 마지막 커밋은 2026년 11월 6일입니다.

awsome-distributed-ai은(는) 어디에 사용할 수 있나요?

대규모 모델 학습을 위한 AWS Slurm 또는 Kubernetes GPU 클러스터 구축 EKS에서 vLLM 또는 SGLang을 사용해 멀티노드 LLM 추론 배포 장시간 학습 작업을 실행하기 전에 GPU 및 네트워크 성능 검증 Nsight 및 EFA 메트릭으로 분산 워크로드 프로파일링

awsome-distributed-ai는 어떻게 설치하나요?

examples 디렉터리를 살펴보고 참고할 아키텍처 또는 예제를 선택합니다 선택한 아키텍처 또는 예제의 README를 읽고 설정 안내를 확인합니다 저장소를 로컬 컴퓨터에 클론합니다: git clone https://github.com/awslabs/awsome-distributed-ai.git

awsome-distributed-ai은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/awslabs/awsome-distributed-ai