Repolode
openvinotoolkit

openvinotoolkit/openvino

Toolkit de código abierto para optimizar e implementar modelos de deep learning para inferencia en CPU, GPU y NPU de Intel.

Estrellas
11,028
Forks
3,472
Issues abiertos
883
Último commit
hace 5 horas

¿Qué es?

OpenVINO es un toolkit de código abierto del proyecto OpenVINO para optimizar e implementar inferencia de IA. Toma modelos entrenados con frameworks como PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle y JAX/Flax, los convierte sin necesidad del framework original durante la implementación y los ejecuta de forma eficiente en hardware compatible.

Entre los destinos de inferencia se incluyen CPU x86 y ARM, GPU integradas y discretas de Intel, y NPU de Intel. El proyecto ofrece API en C++, Python, C y NodeJS, además de una API GenAI para pipelines de LLM y modelos de difusión. Los modelos de Hugging Face Hub se pueden usar mediante Optimum Intel.

El ecosistema incluye Neural Network Compression Framework (NNCF) para cuantización y sparsity, OpenVINO Model Server para ofrecer modelos como servicio e integraciones con vLLM, ONNX Runtime, LangChain, LlamaIndex y torch.compile.

Funciones clave

  • 01Convierte modelos de PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle y JAX/Flax para inferencia.
  • 02Ejecuta inferencia en CPU, GPU y NPU de Intel, incluidas CPU x86 y ARM.
  • 03Ofrece API en C++, Python, C y NodeJS.
  • 04Incluye una API GenAI para pipelines de LLM y modelos de difusión.
  • 05Ofrece técnicas de compresión de modelos, como cuantización y sparsity, mediante NNCF.

Casos de uso

  • Implementar modelos de visión artificial, como YOLO, en hardware de edge o servidor de Intel.
  • Ejecutar chatbots locales con LLM o pipelines de texto a imagen en CPU o GPU de Intel.
  • Acelerar modelos de reconocimiento de voz, como Whisper, en dispositivos compatibles.
  • Integrar inferencia optimizada en flujos de trabajo existentes con ONNX Runtime o vLLM.

Inicio rápido

  1. 1

    Instala OpenVINO con pip

    pip install -U openvino
  2. 2

    Verifica la instalación mostrando la versión

    python -c "import openvino as ov; print(ov.__version__)"

Antes de usarlo

  • Está pensado para hardware Intel (CPU, GPU, NPU) para obtener los mejores resultados; en otros aceleradores, los beneficios son limitados.

Temas

Preguntas frecuentes

¿Qué es openvino?
Toolkit de código abierto para optimizar e implementar modelos de deep learning para inferencia en CPU, GPU y NPU de Intel. OpenVINO es un toolkit de código abierto del proyecto OpenVINO para optimizar e implementar inferencia de IA. Toma modelos entrenados con frameworks como PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle y JAX/Flax, los convierte sin necesidad del framework original durante la implementación y los ejecuta de forma eficiente en hardware compatible.
¿openvino es gratuito? ¿Qué licencia tiene?
openvino es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿openvino sigue mantenido?
Mantenimiento activo. El último commit de openvino fue el 20 oct 2026.
¿Para qué puedo usar openvino?
Implementar modelos de visión artificial, como YOLO, en hardware de edge o servidor de Intel. Ejecutar chatbots locales con LLM o pipelines de texto a imagen en CPU o GPU de Intel. Acelerar modelos de reconocimiento de voz, como Whisper, en dispositivos compatibles. Integrar inferencia optimizada en flujos de trabajo existentes con ONNX Runtime o vLLM.
¿Cómo se instala openvino?
Instala OpenVINO con pip: pip install -U openvino Verifica la instalación mostrando la versión: python -c "import openvino as ov; print(ov.__version__)"
¿Dónde consigo openvino?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/openvinotoolkit/openvino

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados