Biblioteca de kernels para GPU e gerador para inferência de LLMs, com APIs unificadas para operações de attention, GEMM, MoE e sampling.
6,8 mil+10 esta semana1,6 milCudaApache-2.0Atualizado há 13 horas
#large-large-models
Repositórios do GitHub selecionados relacionados a large-large-models, com resumos de IA e métricas principais.
Biblioteca de kernels para GPU e gerador para inferência de LLMs, com APIs unificadas para operações de attention, GEMM, MoE e sampling.