Servidor de inferencia de código abierto que despliega modelos de IA de TensorRT, PyTorch, ONNX, OpenVINO y otros frameworks mediante HTTP/REST y gRPC.
11,1 mil1,9 milPythonBSD-3-ClauseActualizado hace 6 horas
#datacenter
Repositorios de GitHub seleccionados relacionados con datacenter, con resúmenes de IA y métricas clave.
Servidor de inferencia de código abierto que despliega modelos de IA de TensorRT, PyTorch, ONNX, OpenVINO y otros frameworks mediante HTTP/REST y gRPC.