Biblioteca de comunicação GPU para dispatch e combine de MoE com paralelismo de especialistas, FP8 e suporte a NVLink/RDMA para treinamento e inferência.
10,3 mil1,5 milCudaMITAtualizado há 5 dias
#expert-parallelism
Repositórios do GitHub selecionados relacionados a expert-parallelism, com resumos de IA e métricas principais.
Biblioteca de comunicação GPU para dispatch e combine de MoE com paralelismo de especialistas, FP8 e suporte a NVLink/RDMA para treinamento e inferência.