Keras 3 é um framework de deep learning que roda com JAX, TensorFlow, PyTorch ou OpenVINO para inferência.
microsoft/onnxruntime
Acelerador multiplataforma para executar modelos de ML exportados no formato ONNX, com suporte ao treinamento de scripts do PyTorch.
- Estrelas
- 22,137
- Forks
- 4,347
- Issues abertas
- 1,820
- Último commit
- há 2 horas
O que é?
O ONNX Runtime é um acelerador multiplataforma para inferência e treinamento de machine learning. Ele executa modelos de frameworks como PyTorch e TensorFlow/Keras, além de bibliotecas clássicas como scikit-learn, LightGBM e XGBoost, desde que estejam no formato ONNX.
Para inferência, aplica otimizações e transformações ao grafo e usa aceleradores de hardware quando disponíveis, com o objetivo de reduzir o tempo de resposta e os custos computacionais. Ele foi projetado para funcionar com diferentes hardwares, drivers e sistemas operacionais.
Para treinamento, o projeto acelera modelos transformer em GPUs NVIDIA com vários nós e descreve a integração como a adição de apenas uma linha a um script de treinamento PyTorch existente.
Recursos principais
- 01Executa modelos exportados do PyTorch, TensorFlow/Keras e bibliotecas clássicas de ML no formato ONNX
- 02Aplica otimizações e transformações ao grafo para melhorar o desempenho da inferência
- 03Usa aceleradores de hardware quando aplicável, em diferentes hardwares e com diferentes drivers
- 04Acelera o treinamento de modelos transformer em GPUs NVIDIA com vários nós
Casos de uso
- Implantar modelos de deep learning treinados em serviços de produção com menor latência
- Executar um mesmo modelo em diferentes hardwares e sistemas operacionais
- Acelerar o treinamento de modelos transformer em clusters de GPUs NVIDIA
Início rápido
- 1
Baixe uma versão na página de releases do GitHub
- 2
Consulte a documentação de uso e os tutoriais em onnxruntime.ai/docs
Antes de usar
- O README descreve a aceleração do treinamento em GPUs NVIDIA.
Tópicos
Perguntas frequentes
- O que é onnxruntime?
- Acelerador multiplataforma para executar modelos de ML exportados no formato ONNX, com suporte ao treinamento de scripts do PyTorch. O ONNX Runtime é um acelerador multiplataforma para inferência e treinamento de machine learning. Ele executa modelos de frameworks como PyTorch e TensorFlow/Keras, além de bibliotecas clássicas como scikit-learn, LightGBM e XGBoost, desde que estejam no formato ONNX.
- onnxruntime é gratuito? Qual é a licença?
- onnxruntime é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- onnxruntime ainda é mantido?
- Manutenção ativa. O último commit de onnxruntime foi em 22 de out. de 2026.
- Para que posso usar onnxruntime?
- Implantar modelos de deep learning treinados em serviços de produção com menor latência Executar um mesmo modelo em diferentes hardwares e sistemas operacionais Acelerar o treinamento de modelos transformer em clusters de GPUs NVIDIA
- Como instalar onnxruntime?
- Baixe uma versão na página de releases do GitHub Consulte a documentação de uso e os tutoriais em onnxruntime.ai/docs
- Onde consigo onnxruntime?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/microsoft/onnxruntime
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Currículo introdutório de IA da Microsoft, com 24 aulas ao longo de 12 semanas sobre IA simbólica, redes neurais, visão computacional, NLP e ética, incluindo notebooks em PyTorch e TensorFlow.
Visualizador de modelos de redes neurais, deep learning e machine learning, com suporte a ONNX, TensorFlow, PyTorch, Core ML e muitos outros formatos.
Biblioteca Python que converte código de machine learning entre frameworks como PyTorch, TensorFlow, JAX e NumPy usando ivy.transpile.
Biblioteca Python e plataforma hospedada para acompanhar, visualizar e gerenciar experimentos de machine learning, conjuntos de dados e modelos.
Ultralytics YOLOv5, toolkit de visão computacional baseado em PyTorch para detecção de objetos, segmentação de instâncias e classificação de imagens, com recursos de treinamento e exportação.