Biblioteca y generador de kernels para inferencia de LLM, con APIs unificadas para operaciones de attention, GEMM, MoE y sampling.
6,8 mil+10 esta semana1,6 milCudaApache-2.0Actualizado hace 13 horas
#large-large-models
Repositorios de GitHub seleccionados relacionados con large-large-models, con resúmenes de IA y métricas clave.
Biblioteca y generador de kernels para inferencia de LLM, con APIs unificadas para operaciones de attention, GEMM, MoE y sampling.