TensorRT, PyTorch, ONNX, OpenVINO 등 다양한 프레임워크의 AI 모델을 HTTP/REST와 gRPC로 배포하는 오픈소스 추론 서버입니다.
1.1만1.9천PythonBSD-3-Clause업데이트 6시간 전
#datacenter
datacenter 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
TensorRT, PyTorch, ONNX, OpenVINO 등 다양한 프레임워크의 AI 모델을 HTTP/REST와 gRPC로 배포하는 오픈소스 추론 서버입니다.