Библиотека для обмена данными между GPU при dispatch и combine в MoE с expert parallelism: поддерживает FP8, NVLink и RDMA для обучения и инференса.
10,3 тыс.1,5 тыс.CudaMITОбновлён 4 дня назад
#rdma
Отобранные репозитории GitHub по теме rdma с описаниями от ИИ и ключевыми метриками.
Библиотека для обмена данными между GPU при dispatch и combine в MoE с expert parallelism: поддерживает FP8, NVLink и RDMA для обучения и инференса.
Объединяет ваши устройства в единый AI-кластер, чтобы локально запускать большие модели на нескольких Mac и других компьютерах.