Библиотека для обмена данными между GPU при dispatch и combine в MoE с expert parallelism: поддерживает FP8, NVLink и RDMA для обучения и инференса.
10,3 тыс.1,5 тыс.CudaMITОбновлён 4 дня назад
#expert-parallelism
Open source проекты по теме «expert-parallelism»
Отобранные репозитории GitHub по теме expert-parallelism с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий