Набор инструментов для сжатия, развёртывания и обслуживания LLM и vision-language моделей с движками инференса TurboMind и PyTorch.
8,1 тыс.767PythonApache-2.0Обновлён 4 часа назад
#cuda-kernels
Отобранные репозитории GitHub по теме cuda-kernels с описаниями от ИИ и ключевыми метриками.
Набор инструментов для сжатия, развёртывания и обслуживания LLM и vision-language моделей с движками инференса TurboMind и PyTorch.