Repolode
inisis

inisis/OnnxSlim

Toolkit em Python que otimiza modelos ONNX reduzindo o número de operadores sem comprometer a precisão, para acelerar a inferência.

Estrelas
521
Forks
44
Issues abertas
31
Último commit
há 4 dias

O que é?

OnnxSlim simplifica modelos ONNX removendo operadores redundantes, deixando o grafo resultante menor e, em geral, mais rápido durante a inferência. Você pode usá-lo pela linha de comando com uma única chamada, `onnxslim input output`, ou em Python, passando um modelo carregado para `onnxslim.slim()` e salvando o resultado.

O projeto é distribuído no PyPI como `onnxslim` e também pode ser instalado a partir do código-fonte. O README lista vários projetos de código aberto que o adotaram como parte dos pipelines de exportação ou otimização de modelos, incluindo Ultralytics, Hugging Face Optimum e transformers.js.

Recursos principais

  • 01Reduz o número de operadores em um grafo ONNX buscando preservar a precisão.
  • 02Oferece uma ferramenta de linha de comando para simplificar modelos rapidamente.
  • 03Disponibiliza uma API Python que recebe um modelo ONNX carregado e retorna uma versão otimizada.
  • 04Pode ser instalado pelo PyPI ou diretamente a partir do código-fonte.

Casos de uso

  • Reduzir o tamanho e o número de operadores de um modelo ONNX antes de implantá-lo com ONNX Runtime.
  • Adicionar uma etapa de otimização a um pipeline de exportação de modelos baseado em PyTorch ou frameworks semelhantes.
  • Enxugar modelos usados em cargas de trabalho de inferência com LLM ou visão computacional.

Início rápido

  1. 1

    Instalar o pacote pré-compilado do PyPI

    pip install onnxslim
  2. 2

    Reduzir o tamanho de um modelo ONNX pela linha de comando

    onnxslim your_onnx_model slimmed_onnx_model

Tópicos

Perguntas frequentes

O que é OnnxSlim?
Toolkit em Python que otimiza modelos ONNX reduzindo o número de operadores sem comprometer a precisão, para acelerar a inferência. OnnxSlim simplifica modelos ONNX removendo operadores redundantes, deixando o grafo resultante menor e, em geral, mais rápido durante a inferência. Você pode usá-lo pela linha de comando com uma única chamada, `onnxslim input output`, ou em Python, passando um modelo carregado para `onnxslim.slim()` e salvando o resultado.
OnnxSlim é gratuito? Qual é a licença?
OnnxSlim é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
OnnxSlim ainda é mantido?
Manutenção ativa. O último commit de OnnxSlim foi em 16 de out. de 2026.
Para que posso usar OnnxSlim?
Reduzir o tamanho e o número de operadores de um modelo ONNX antes de implantá-lo com ONNX Runtime. Adicionar uma etapa de otimização a um pipeline de exportação de modelos baseado em PyTorch ou frameworks semelhantes. Enxugar modelos usados em cargas de trabalho de inferência com LLM ou visão computacional.
Como instalar OnnxSlim?
Instalar o pacote pré-compilado do PyPI: pip install onnxslim Reduzir o tamanho de um modelo ONNX pela linha de comando: onnxslim your_onnx_model slimmed_onnx_model
Onde consigo OnnxSlim?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/inisis/OnnxSlim

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados