NVIDIA/nccl

これは何？

主な機能

• 01all-reduce、all-gather、reduce、broadcast、reduce-scatterの集合通信を実装
• 02ノード内または複数ノード間で任意の数のGPUをサポート
• 03PCIe、NVLink、NVSwitch、InfiniBand Verbs、TCP/IPソケットを利用
• 04単一プロセスおよびマルチプロセス（例: MPI）のアプリケーションで動作
• 05ソースからビルドでき、deb、rpm、tarball、Python wheelとしてパッケージ化可能

ユースケース

• マルチGPU分散ディープラーニングの学習における勾配同期
• HPCジョブで多数のGPU間のテンソルを交換
• 付属のnccl-testsスイートを使ったインターコネクト帯域幅のベンチマーク

クイックスタート

1. 1

   NVIDIAの開発者向けページから公式のNCCLビルドをダウンロードします

2. 2

   ソースからライブラリをビルドします

   make -j src.build

使う前に知っておきたいこと

• !メタデータではライセンスが明確に指定されていないため、使用前にリポジトリのライセンス条件を確認してください。
• !ソースからビルドするには、CUDA Toolkitがインストールされており、NVIDIA GPUが必要です。

収録されている特集

トピック

よくある質問

nccl とは？

NCCLは、単一ノードおよびマルチノードの学習向けに、all-reduceやall-gatherなどの最適化されたGPU通信プリミティブを提供するNVIDIAのライブラリです。 NCCL（「ニッケル」と発音）は、GPU向けの独立した集合通信ルーチンライブラリです。all-reduce、all-gather、reduce、broadcast、reduce-scatterに加え、send/receiveベースのあらゆる通信パターンを実装しています。分散ディープラーニングのように、多数のGPU間で高速にデータをやり取りする必要があるワークロードを対象としています。

nccl は無料で使えますか？ライセンスは？

nccl は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

nccl は今もメンテナンスされていますか？

活発にメンテナンス中。nccl の最終コミットは 2026年11月3日 です。

nccl は何に使えますか？

マルチGPU分散ディープラーニングの学習における勾配同期 HPCジョブで多数のGPU間のテンソルを交換 付属のnccl-testsスイートを使ったインターコネクト帯域幅のベンチマーク

nccl のインストール方法は？

NVIDIAの開発者向けページから公式のNCCLビルドをダウンロードします ソースからライブラリをビルドします: make -j src.build

nccl はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/NVIDIA/nccl