“openvino” 相关开源项目

基于 OpenVINO 的 C++ 推理服务器，通过 OpenAI 兼容和 KServe 接口提供生成式 AI 与经典深度学习模型服务。

一个 Python 神经网络压缩框架，通过量化、剪枝和稀疏化加速 OpenVINO 推理，支持 PyTorch 与 ONNX 模型。