Kubernetes-оператор для развертывания и управления сервингом LLM: планирование GPU и жизненный цикл моделей для SGLang, vLLM, TensorRT-LLM и Triton.
518104GoApache-2.0Обновлён 15 часов назад
#kimi-k2
Отобранные репозитории GitHub по теме kimi-k2 с описаниями от ИИ и ключевыми метриками.
Kubernetes-оператор для развертывания и управления сервингом LLM: планирование GPU и жизненный цикл моделей для SGLang, vLLM, TensorRT-LLM и Triton.