openvinotoolkit/openvino

Что это?

Ключевые возможности

• 01Преобразует модели PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle и JAX/Flax для инференса.
• 02Запускает инференс на процессорах, GPU и NPU Intel, включая процессоры x86 и ARM.
• 03Предоставляет API для C++, Python, C и NodeJS.
• 04Включает GenAI API для конвейеров с LLM и diffusion-моделями.
• 05Предлагает методы сжатия моделей, например квантование и разреживание, с помощью NNCF.

Сценарии использования

• Развертывание моделей компьютерного зрения, таких как YOLO, на периферийном или серверном оборудовании Intel.
• Запуск локальных чат-ботов на базе LLM или конвейеров преобразования текста в изображение на процессорах или GPU Intel.
• Ускорение моделей распознавания речи, таких как Whisper, на поддерживаемых устройствах.
• Интеграция оптимизированного инференса в существующие рабочие процессы с ONNX Runtime или vLLM.

Быстрый старт

1. 1

   Установите OpenVINO с помощью pip

   pip install -U openvino
2. 2

   Проверьте установку, выведя версию

   python -c "import openvino as ov; print(ov.__version__)"

Что важно знать

• !Для наилучших результатов рассчитан на оборудование Intel (CPU, GPU, NPU); на других ускорителях польза ограничена.

Темы

Частые вопросы

Что такое openvino?

Open-source toolkit для оптимизации и развертывания моделей deep learning для инференса на процессорах, GPU и NPU Intel. OpenVINO — open-source toolkit проекта OpenVINO для оптимизации и развертывания инференса AI-моделей. Он принимает модели, обученные с помощью таких фреймворков, как PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle и JAX/Flax, преобразует их без необходимости использовать исходный фреймворк при развертывании и эффективно запускает на поддерживаемом оборудовании.

openvino можно использовать бесплатно? Какая у него лицензия?

openvino распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

openvino всё ещё поддерживается?

Активно поддерживается. Последний коммит в openvino — 20 окт. 2026 г..

Для чего можно использовать openvino?

Развертывание моделей компьютерного зрения, таких как YOLO, на периферийном или серверном оборудовании Intel. Запуск локальных чат-ботов на базе LLM или конвейеров преобразования текста в изображение на процессорах или GPU Intel. Ускорение моделей распознавания речи, таких как Whisper, на поддерживаемых устройствах. Интеграция оптимизированного инференса в существующие рабочие процессы с ONNX Runtime или vLLM.

Как установить openvino?

Установите OpenVINO с помощью pip: pip install -U openvino Проверьте установку, выведя версию: python -c "import openvino as ov; print(ov.__version__)"

Где скачать openvino?

Исходный код и инструкции по установке — на GitHub: https://github.com/openvinotoolkit/openvino