Библиотека для обмена данными между GPU при dispatch и combine в MoE с expert parallelism: поддерживает FP8, NVLink и RDMA для обучения и инференса.
10,3 тыс.1,5 тыс.CudaMITОбновлён 5 дней назад
#nccl
Отобранные репозитории GitHub по теме nccl с описаниями от ИИ и ключевыми метриками.
Библиотека для обмена данными между GPU при dispatch и combine в MoE с expert parallelism: поддерживает FP8, NVLink и RDMA для обучения и инференса.