Servidor de inferência em C++ que disponibiliza modelos de IA generativa e deep learning clássico otimizados para OpenVINO por meio de APIs compatíveis com OpenAI e KServe.
952284C++Apache-2.0Atualizado há 5 horas
#openvino
Projetos open source sobre “openvino”
Repositórios do GitHub selecionados relacionados a openvino, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Framework Python para comprimir redes neurais com quantização, pruning e esparsidade, acelerando a inferência no OpenVINO, PyTorch e ONNX.
1,2 mil309PythonApache-2.0Atualizado anteontem