NVIDIA/nccl

Что это?

Ключевые возможности

• 01Реализует коллективные операции all-reduce, all-gather, reduce, broadcast и reduce-scatter
• 02Поддерживает произвольное количество GPU внутри одного узла или на нескольких узлах
• 03Использует PCIe, NVLink, NVSwitch, InfiniBand Verbs и сокеты TCP/IP
• 04Работает в приложениях с одним и несколькими процессами (например, MPI)
• 05Собирается из исходного кода или упаковывается в deb, rpm, tarball либо Python wheel

Сценарии использования

• Синхронизация градиентов при распределённом обучении глубоких моделей на нескольких GPU
• Обмен тензорами между множеством GPU в задачах высокопроизводительных вычислений
• Измерение пропускной способности межсоединений с помощью набора тестов nccl-tests

Быстрый старт

1. 1

   Скачайте официальные сборки NCCL со страницы разработчиков NVIDIA

2. 2

   Соберите библиотеку из исходного кода

   make -j src.build

Что важно знать

• !В метаданных лицензия указана неясно, поэтому перед использованием ознакомьтесь с условиями лицензии репозитория.
• !Для сборки из исходного кода необходимы установленный CUDA Toolkit и графические процессоры NVIDIA.

В подборках

Темы

Частые вопросы

Что такое nccl?

NCCL — библиотека NVIDIA с оптимизированными примитивами обмена данными между GPU, такими как all-reduce и all-gather, для обучения на одном или нескольких узлах. NCCL (произносится «Никель») — отдельная библиотека коллективных коммуникационных операций для GPU. Она реализует all-reduce, all-gather, reduce, broadcast и reduce-scatter, а также любые схемы обмена данными на основе send/receive. Библиотека предназначена для задач, в которых множеству GPU нужно быстро обмениваться данными, например для распределённого глубокого обучения.

nccl можно использовать бесплатно? Какая у него лицензия?

nccl распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.

nccl всё ещё поддерживается?

Активно поддерживается. Последний коммит в nccl — 3 нояб. 2026 г..

Для чего можно использовать nccl?

Синхронизация градиентов при распределённом обучении глубоких моделей на нескольких GPU Обмен тензорами между множеством GPU в задачах высокопроизводительных вычислений Измерение пропускной способности межсоединений с помощью набора тестов nccl-tests

Как установить nccl?

Скачайте официальные сборки NCCL со страницы разработчиков NVIDIA Соберите библиотеку из исходного кода: make -j src.build

Где скачать nccl?

Исходный код и инструкции по установке — на GitHub: https://github.com/NVIDIA/nccl