Библиотека для обмена данными между GPU при dispatch и combine в MoE с expert parallelism: поддерживает FP8, NVLink и RDMA для обучения и инференса.
10,3 тыс.1,5 тыс.CudaMITОбновлён 4 дня назад
Язык
Лучшие open source проекты на Cuda
Open source проекты на Cuda, отсортированные по звёздам, с описаниями от ИИ и информацией о лицензии.
Сортировка:Недавно добавленные
2 репозитория
Открытая книга и коллекция кода с конспектами по современному CUDA и более чем 200 ядрами для HGEMM, GEMM с FP8/FP4 и Flash-Attention.
12,1 тыс.1,3 тыс.CudaGPL-3.0Обновлён 14 часов назад