Biblioteca de kernels para GPU e gerador para inferência de LLMs, com APIs unificadas para operações de attention, GEMM, MoE e sampling.
6,8 mil+10 esta semana1,6 milCudaApache-2.0Atualizado há 13 horas
#kernels
Repositórios do GitHub selecionados relacionados a kernels, com resumos de IA e métricas principais.
Biblioteca de kernels para GPU e gerador para inferência de LLMs, com APIs unificadas para operações de attention, GEMM, MoE e sampling.