awslabs/awsome-distributed-ai

これは何？

主な機能

• 01SageMaker HyperPod、ParallelCluster、PCS、EKS向けのリファレンスアーキテクチャ
• 02PyTorch FSDP、Megatron-LM、NeMoを使った学習サンプル
• 03vLLM、SGLang、NVIDIA Dynamoを使った推論サンプル
• 04カスタムAMIを作成するPackerとAnsibleのスクリプト
• 05GPUクラスターの健全性チェックとEFAモニタリング用エクスポーター
• 06NCCL、NCCOM、NVSHMEMのマイクロベンチマーク

ユースケース

• 大規模モデルの学習用に、AWS上でSlurmまたはKubernetesのGPUクラスターを構築する
• EKS上でvLLMまたはSGLangを使ったマルチノードLLM推論をデプロイする
• 長時間の学習ジョブを実行する前に、GPUとネットワークの性能を検証する
• NsightとEFAのメトリクスを使って分散ワークロードをプロファイリングする

クイックスタート

1. 1

   examples ディレクトリを確認し、参考にするアーキテクチャまたはサンプルを選びます

2. 2

   選んだアーキテクチャまたはサンプルの README を読み、セットアップ手順を確認します

3. 3

   リポジトリをローカルマシンにクローンします

   git clone https://github.com/awslabs/awsome-distributed-ai.git

使う前に知っておきたいこと

• !AWS 固有のクラスター（SageMaker HyperPod、ParallelCluster、PCS、EKS）を対象としているため、AWS アカウントとクラスターのセットアップがないと役立ちません。
• !単一のインストール可能なパッケージではなく、参考アーキテクチャとサンプルのコレクションであるため、ワンステップでのインストールはできません。

収録されている特集

トピック

よくある質問

awsome-distributed-ai とは？

AWSクラスターで分散AIの学習と推論を実行するためのリファレンスアーキテクチャ、テンプレート、サンプル。 このリポジトリには、AWSで分散AIの学習と推論を実行するためのリファレンスアーキテクチャ、デプロイ用テンプレート、実行可能なサンプルがまとめられています。Amazon SageMaker HyperPod、AWS ParallelCluster、AWS Parallel Computing Service、Amazon EKSなどのクラスター基盤を対象としており、それぞれにCloudFormationとTerraformのテンプレートが用意されています。

awsome-distributed-ai は無料で使えますか？ライセンスは？

awsome-distributed-ai は MIT-0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

awsome-distributed-ai は今もメンテナンスされていますか？

活発にメンテナンス中。awsome-distributed-ai の最終コミットは 2026年11月6日 です。

awsome-distributed-ai は何に使えますか？

大規模モデルの学習用に、AWS上でSlurmまたはKubernetesのGPUクラスターを構築する EKS上でvLLMまたはSGLangを使ったマルチノードLLM推論をデプロイする 長時間の学習ジョブを実行する前に、GPUとネットワークの性能を検証する NsightとEFAのメトリクスを使って分散ワークロードをプロファイリングする

awsome-distributed-ai のインストール方法は？

examples ディレクトリを確認し、参考にするアーキテクチャまたはサンプルを選びます 選んだアーキテクチャまたはサンプルの README を読み、セットアップ手順を確認します リポジトリをローカルマシンにクローンします: git clone https://github.com/awslabs/awsome-distributed-ai.git

awsome-distributed-ai はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/awslabs/awsome-distributed-ai