Открытый сервер инференса для развертывания моделей ИИ из TensorRT, PyTorch, ONNX, OpenVINO и других фреймворков через HTTP/REST и gRPC.
11,1 тыс.1,9 тыс.PythonBSD-3-ClauseОбновлён 6 часов назад
#datacenter
Отобранные репозитории GitHub по теме datacenter с описаниями от ИИ и ключевыми метриками.
Открытый сервер инференса для развертывания моделей ИИ из TensorRT, PyTorch, ONNX, OpenVINO и других фреймворков через HTTP/REST и gRPC.