Repolode
投稿する
microsoft

microsoft/onnxruntime

ONNX形式にエクスポートしたMLモデルを実行するクロスプラットフォームのアクセラレーター。PyTorchスクリプトでの学習にも対応します。

GitHub で見る公式サイト
スター
22,137
フォーク
4,347
未解決の Issue
1,820
最終コミット
2 時間前

これは何？

ONNX Runtimeは、機械学習の推論と学習を高速化するクロスプラットフォームのアクセラレーターです。PyTorchやTensorFlow/Kerasなどのフレームワークに加え、scikit-learn、LightGBM、XGBoostなどの従来型ライブラリのモデルも、ONNX形式に変換すれば実行できます。

推論では、グラフの最適化や変換を適用し、利用可能な場合はハードウェアアクセラレーターを使用して、応答時間の短縮と計算コストの削減を目指します。さまざまなハードウェア、ドライバー、OSで動作するよう設計されています。

学習では、複数ノードのNVIDIA GPU上でTransformerモデルを高速化できます。既存のPyTorch学習スクリプトに1行追加するだけで利用できると説明されています。

主な機能

  • 01PyTorch、TensorFlow/Keras、従来型MLライブラリからエクスポートしたモデルをONNX形式で実行
  • 02推論性能を高めるためにグラフの最適化や変換を適用
  • 03さまざまなハードウェアやドライバー上で、適切な場合にハードウェアアクセラレーターを使用
  • 04複数ノードのNVIDIA GPU上でTransformerモデルの学習を高速化

ユースケース

  • 学習済みのディープラーニングモデルを、低レイテンシで本番サービスにデプロイする
  • さまざまなハードウェアやOSで同じモデルを実行する
  • NVIDIA GPUクラスターでTransformerモデルの学習を高速化する

クイックスタート

  1. 1

    GitHubのリリースページからリリースを入手する

  2. 2

    onnxruntime.ai/docsで使用方法のドキュメントとチュートリアルを読む

使う前に知っておきたいこと

  • READMEには、NVIDIA GPUでのトレーニング高速化について記載されています。

トピック

#machine-learning#inference#onnx#deep-learning#hardware-acceleration#pytorch#ai-framework#neural-networks#scikit-learn#tensorflow

よくある質問

onnxruntime とは？
ONNX形式にエクスポートしたMLモデルを実行するクロスプラットフォームのアクセラレーター。PyTorchスクリプトでの学習にも対応します。 ONNX Runtimeは、機械学習の推論と学習を高速化するクロスプラットフォームのアクセラレーターです。PyTorchやTensorFlow/Kerasなどのフレームワークに加え、scikit-learn、LightGBM、XGBoostなどの従来型ライブラリのモデルも、ONNX形式に変換すれば実行できます。
onnxruntime は無料で使えますか？ライセンスは？
onnxruntime は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
onnxruntime は今もメンテナンスされていますか？
活発にメンテナンス中。onnxruntime の最終コミットは 2026年10月22日 です。
onnxruntime は何に使えますか？
学習済みのディープラーニングモデルを、低レイテンシで本番サービスにデプロイする さまざまなハードウェアやOSで同じモデルを実行する NVIDIA GPUクラスターでTransformerモデルの学習を高速化する
onnxruntime のインストール方法は？
GitHubのリリースページからリリースを入手する onnxruntime.ai/docsで使用方法のドキュメントとチュートリアルを読む
onnxruntime はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/microsoft/onnxruntime

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト