开源推理服务器，通过 HTTP/REST 和 gRPC 部署 TensorRT、PyTorch、ONNX 等多种框架的模型。
1.1万1861PythonBSD-3-Clause更新于 7小时前
#datacenter
“datacenter” 相关开源项目
与 datacenter 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
#datacenter
与 datacenter 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
开源推理服务器，通过 HTTP/REST 和 gRPC 部署 TensorRT、PyTorch、ONNX 等多种框架的模型。