microsoft/onnxruntime

Что это?

Ключевые возможности

• 01Запускает модели, экспортированные из PyTorch, TensorFlow/Keras и классических ML-библиотек в формате ONNX
• 02Оптимизирует и преобразует графы вычислений, повышая производительность инференса
• 03По возможности использует аппаратные ускорители на разных типах оборудования и с разными драйверами
• 04Ускоряет обучение трансформерных моделей на нескольких узлах с GPU NVIDIA

Сценарии использования

• Развёртывание обученных моделей глубокого обучения в production-сервисах с меньшей задержкой
• Запуск одной модели на разном оборудовании и в разных операционных системах
• Ускорение обучения трансформерных моделей на кластерах GPU NVIDIA

Быстрый старт

1. 1

   Скачайте релиз со страницы релизов GitHub

2. 2

   Ознакомьтесь с документацией по использованию и руководствами на onnxruntime.ai/docs

Что важно знать

• !В README описано ускорение обучения на GPU NVIDIA.

Темы

Частые вопросы

Что такое onnxruntime?

Кроссплатформенный ускоритель для запуска ML-моделей, экспортированных в формат ONNX, с поддержкой обучения с помощью PyTorch-скриптов. ONNX Runtime — кроссплатформенный ускоритель для инференса и обучения моделей машинного обучения. Он запускает модели из таких фреймворков, как PyTorch и TensorFlow/Keras, а также из классических библиотек, например scikit-learn, LightGBM и XGBoost, если они представлены в формате ONNX.

onnxruntime можно использовать бесплатно? Какая у него лицензия?

onnxruntime распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.

onnxruntime всё ещё поддерживается?

Активно поддерживается. Последний коммит в onnxruntime — 22 окт. 2026 г..

Для чего можно использовать onnxruntime?

Развёртывание обученных моделей глубокого обучения в production-сервисах с меньшей задержкой Запуск одной модели на разном оборудовании и в разных операционных системах Ускорение обучения трансформерных моделей на кластерах GPU NVIDIA

Как установить onnxruntime?

Скачайте релиз со страницы релизов GitHub Ознакомьтесь с документацией по использованию и руководствами на onnxruntime.ai/docs

Где скачать onnxruntime?

Исходный код и инструкции по установке — на GitHub: https://github.com/microsoft/onnxruntime