Repolode
Enviar
inisis

inisis/OnnxSlim

Un toolkit de Python que optimiza modelos ONNX reduciendo el número de operadores y manteniendo la precisión, con el objetivo de acelerar la inferencia.

Ver en GitHub
Estrellas
521
Forks
44
Issues abiertos
31
Último commit
hace 4 días

¿Qué es?

OnnxSlim reduce el tamaño de los modelos ONNX al eliminar operadores redundantes, de modo que el grafo resultante es más pequeño y suele ejecutarse más rápido durante la inferencia. Se puede usar desde la línea de comandos con una sola llamada, `onnxslim input output`, o desde Python pasando un modelo cargado a `onnxslim.slim()` y guardando el resultado.

El proyecto se distribuye en PyPI como `onnxslim` y también se puede instalar desde el código fuente. Su README menciona varios proyectos de código abierto que lo han incorporado a sus flujos de exportación u optimización de modelos, como Ultralytics, Hugging Face Optimum y transformers.js.

Funciones clave

  • 01Reduce el número de operadores de un grafo ONNX con el objetivo de preservar la precisión.
  • 02Incluye una herramienta de línea de comandos para simplificar modelos rápidamente.
  • 03Ofrece una API de Python que recibe un modelo ONNX cargado y devuelve uno optimizado.
  • 04Se puede instalar desde PyPI o directamente desde el código fuente.

Casos de uso

  • Reducir el tamaño y el número de operadores de un modelo ONNX antes de desplegarlo con ONNX Runtime.
  • Añadir un paso de optimización a un flujo de exportación de modelos basado en PyTorch u otros frameworks similares.
  • Simplificar modelos usados en cargas de trabajo de inferencia de LLM o visión.

Inicio rápido

  1. 1

    Instalar el paquete precompilado desde PyPI

    pip install onnxslim
  2. 2

    Reducir el tamaño de un modelo ONNX desde la línea de comandos

    onnxslim your_onnx_model slimmed_onnx_model

Temas

#onnx#onnxruntime#model-optimization#inference#deep-learning#python#optimization

Preguntas frecuentes

¿Qué es OnnxSlim?
Un toolkit de Python que optimiza modelos ONNX reduciendo el número de operadores y manteniendo la precisión, con el objetivo de acelerar la inferencia. OnnxSlim reduce el tamaño de los modelos ONNX al eliminar operadores redundantes, de modo que el grafo resultante es más pequeño y suele ejecutarse más rápido durante la inferencia. Se puede usar desde la línea de comandos con una sola llamada, `onnxslim input output`, o desde Python pasando un modelo cargado a `onnxslim.slim()` y guardando el resultado.
¿OnnxSlim es gratuito? ¿Qué licencia tiene?
OnnxSlim es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿OnnxSlim sigue mantenido?
Mantenimiento activo. El último commit de OnnxSlim fue el 16 oct 2026.
¿Para qué puedo usar OnnxSlim?
Reducir el tamaño y el número de operadores de un modelo ONNX antes de desplegarlo con ONNX Runtime. Añadir un paso de optimización a un flujo de exportación de modelos basado en PyTorch u otros frameworks similares. Simplificar modelos usados en cargas de trabajo de inferencia de LLM o visión.
¿Cómo se instala OnnxSlim?
Instalar el paquete precompilado desde PyPI: pip install onnxslim Reducir el tamaño de un modelo ONNX desde la línea de comandos: onnxslim your_onnx_model slimmed_onnx_model
¿Dónde consigo OnnxSlim?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/inisis/OnnxSlim

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados