“openvino” 관련 오픈소스 프로젝트

OpenAI 호환 API와 KServe API를 통해 OpenVINO 최적화 생성형 AI 및 기존 딥러닝 모델을 제공하는 C++ 추론 서버입니다.

OpenVINO, PyTorch, ONNX에서 추론 속도를 높이기 위해 양자화, 프루닝, 희소화를 지원하는 신경망 압축용 Python 프레임워크입니다.