Repolode
microsoft

microsoft/onnxruntime

Acelerador multiplataforma para executar modelos de ML exportados no formato ONNX, com suporte ao treinamento de scripts do PyTorch.

Estrelas
22,137
Forks
4,347
Issues abertas
1,820
Último commit
há 2 horas

O que é?

O ONNX Runtime é um acelerador multiplataforma para inferência e treinamento de machine learning. Ele executa modelos de frameworks como PyTorch e TensorFlow/Keras, além de bibliotecas clássicas como scikit-learn, LightGBM e XGBoost, desde que estejam no formato ONNX.

Para inferência, aplica otimizações e transformações ao grafo e usa aceleradores de hardware quando disponíveis, com o objetivo de reduzir o tempo de resposta e os custos computacionais. Ele foi projetado para funcionar com diferentes hardwares, drivers e sistemas operacionais.

Para treinamento, o projeto acelera modelos transformer em GPUs NVIDIA com vários nós e descreve a integração como a adição de apenas uma linha a um script de treinamento PyTorch existente.

Recursos principais

  • 01Executa modelos exportados do PyTorch, TensorFlow/Keras e bibliotecas clássicas de ML no formato ONNX
  • 02Aplica otimizações e transformações ao grafo para melhorar o desempenho da inferência
  • 03Usa aceleradores de hardware quando aplicável, em diferentes hardwares e com diferentes drivers
  • 04Acelera o treinamento de modelos transformer em GPUs NVIDIA com vários nós

Casos de uso

  • Implantar modelos de deep learning treinados em serviços de produção com menor latência
  • Executar um mesmo modelo em diferentes hardwares e sistemas operacionais
  • Acelerar o treinamento de modelos transformer em clusters de GPUs NVIDIA

Início rápido

  1. 1

    Baixe uma versão na página de releases do GitHub

  2. 2

    Consulte a documentação de uso e os tutoriais em onnxruntime.ai/docs

Antes de usar

  • O README descreve a aceleração do treinamento em GPUs NVIDIA.

Tópicos

Perguntas frequentes

O que é onnxruntime?
Acelerador multiplataforma para executar modelos de ML exportados no formato ONNX, com suporte ao treinamento de scripts do PyTorch. O ONNX Runtime é um acelerador multiplataforma para inferência e treinamento de machine learning. Ele executa modelos de frameworks como PyTorch e TensorFlow/Keras, além de bibliotecas clássicas como scikit-learn, LightGBM e XGBoost, desde que estejam no formato ONNX.
onnxruntime é gratuito? Qual é a licença?
onnxruntime é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
onnxruntime ainda é mantido?
Manutenção ativa. O último commit de onnxruntime foi em 22 de out. de 2026.
Para que posso usar onnxruntime?
Implantar modelos de deep learning treinados em serviços de produção com menor latência Executar um mesmo modelo em diferentes hardwares e sistemas operacionais Acelerar o treinamento de modelos transformer em clusters de GPUs NVIDIA
Como instalar onnxruntime?
Baixe uma versão na página de releases do GitHub Consulte a documentação de uso e os tutoriais em onnxruntime.ai/docs
Onde consigo onnxruntime?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/microsoft/onnxruntime

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados