Toolkit para comprimir, desplegar y servir LLM y modelos de visión y lenguaje, con motores de inferencia TurboMind y PyTorch.
8,1 mil767PythonApache-2.0Actualizado hace 5 horas
#cuda-kernels
Repositorios de GitHub seleccionados relacionados con cuda-kernels, con resúmenes de IA y métricas clave.
Toolkit para comprimir, desplegar y servir LLM y modelos de visión y lenguaje, con motores de inferencia TurboMind y PyTorch.