Servidor de inferencia en C++ que sirve modelos de IA generativa optimizados para OpenVINO y modelos clásicos de deep learning mediante API compatibles con OpenAI y KServe.
952284C++Apache-2.0Actualizado hace 5 horas
#openvino
Proyectos open source sobre «openvino»
Repositorios de GitHub seleccionados relacionados con openvino, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
2 repositorios
Framework de Python para comprimir redes neuronales mediante cuantización, pruning y sparsity, y acelerar la inferencia en OpenVINO, PyTorch y ONNX.
1,2 mil309PythonApache-2.0Actualizado anteayer