Ultralytics YOLOは、物体検出、セグメンテーション、分類、姿勢推定、トラッキングなどに対応したコンピュータビジョン向けPythonライブラリです。
laugh12321/TensorRT-YOLO
TensorRTを使ってNVIDIA GPU上にYOLO系モデルをデプロイするC++/Pythonツールキット。検出、セグメンテーション、分類、姿勢推定、OBBに対応。
- スター
- 1,895
- フォーク
- 199
- 未解決の Issue
- 2
- 最終コミット
- 先月
これは何?
TensorRT-YOLOは、TensorRTを介してNVIDIA製ハードウェア上でYOLO系モデルを実行するためのデプロイ用ツールキットです。物体検出、インスタンスセグメンテーション、画像分類、姿勢推定、回転物体検出に対応したC++およびPythonの推論インターフェースを備え、動画解析のサンプルも含まれています。
後処理用のTensorRTプラグインを追加し、前処理にはCUDAカーネルを使用、CUDA Graphsで推論を高速化します。モデルは付属のtrtyolo-exportツールを使ってONNXからTensorRTエンジンに変換でき、Python APIとC++ APIで同じ推論パイプラインを共有します。YOLOv3からYOLO26までに加えて、YOLO-WorldとYOLO-Masterの各バリアントにも対応すると記載されています。
Community Edition(6.4)はGPL-3.0ライセンスで、CUDAとTensorRTが必要です。LinuxおよびWindowsのx64とARMに対応しています。C++部分はサードパーティ依存のない単一ヘッダーで構成され、DockerとCLIも提供されています。また、このリポジトリには含まれないクローズドソースのProfessional Editionについても説明されています。
主な機能
- 01YOLO系モデルの検出、セグメンテーション、分類、姿勢推定、OBBタスクに対応。
- 02同一の推論パイプラインを使うC++とPythonの推論APIを提供。
- 03後処理にはTensorRTプラグインを使用し、CUDAカーネルとCUDA Graphsで高速化。
- 04モデル構造を自動検出するCLIを提供。
- 05C++モジュールはサードパーティ依存のない単一ヘッダー。
ユースケース
- NVIDIA GPUやJetsonデバイス上でリアルタイムYOLO物体検出をデプロイする。
- TensorRTエンジンを使ったインスタンスセグメンテーションや姿勢推定のサービスを実行する。
- マルチコンテキスト推論を使い、C++アプリケーションで複数のYOLOモデルを提供する。
- NVIDIA製ハードウェア上で動画解析パイプラインを構築する。
クイックスタート
- 1
TensorRT-YOLOリポジトリをクローンする
git clone https://github.com/laugh12321/TensorRT-YOLO - 2
Pythonバインディング用にpybind11をインストールする
pip install "pybind11[global]" - 3
TRT_PATHをTensorRTのディレクトリに設定して、CMakeでビルドを構成する
cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir - 4
ライブラリをビルドしてインストールする
cmake --build build -j$(nproc) --config Release --target install
使う前に知っておきたいこと
- CUDAとTensorRTがインストールされたNVIDIA GPUが必要です(TensorRT 8.6.1以降を推奨)。
- GPL-3.0ライセンスの適用対象です。コピーレフトライセンスであり、派生物も同じ条件でオープンソースにする必要があります。
- コミュニティ版の推論インターフェースは固定されており、新しいランタイムアーキテクチャは追加されません。READMEには、高度な機能を備えたクローズドソースのプロフェッショナル版について記載されています。
収録されている特集
トピック
よくある質問
- TensorRT-YOLO とは?
- TensorRTを使ってNVIDIA GPU上にYOLO系モデルをデプロイするC++/Pythonツールキット。検出、セグメンテーション、分類、姿勢推定、OBBに対応。 TensorRT-YOLOは、TensorRTを介してNVIDIA製ハードウェア上でYOLO系モデルを実行するためのデプロイ用ツールキットです。物体検出、インスタンスセグメンテーション、画像分類、姿勢推定、回転物体検出に対応したC++およびPythonの推論インターフェースを備え、動画解析のサンプルも含まれています。
- TensorRT-YOLO は無料で使えますか?ライセンスは?
- TensorRT-YOLO は GPL-3.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- TensorRT-YOLO は今もメンテナンスされていますか?
- 半年以内に更新あり。TensorRT-YOLO の最終コミットは 2026年9月10日 です。
- TensorRT-YOLO は何に使えますか?
- NVIDIA GPUやJetsonデバイス上でリアルタイムYOLO物体検出をデプロイする。 TensorRTエンジンを使ったインスタンスセグメンテーションや姿勢推定のサービスを実行する。 マルチコンテキスト推論を使い、C++アプリケーションで複数のYOLOモデルを提供する。 NVIDIA製ハードウェア上で動画解析パイプラインを構築する。
- TensorRT-YOLO のインストール方法は?
- TensorRT-YOLOリポジトリをクローンする: git clone https://github.com/laugh12321/TensorRT-YOLO Pythonバインディング用にpybind11をインストールする: pip install "pybind11[global]" TRT_PATHをTensorRTのディレクトリに設定して、CMakeでビルドを構成する: cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir ライブラリをビルドしてインストールする: cmake --build build -j$(nproc) --config Release --target install
- TensorRT-YOLO はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/laugh12321/TensorRT-YOLO
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
Ultralytics YOLOv5は、物体検出、インスタンスセグメンテーション、画像分類の学習とエクスポートに対応した、PyTorchベースのコンピュータービジョンツールキットです。
データセットの読み込み、検出の実行、物体追跡、フレームへの注釈付けに使える、再利用可能なコンピュータビジョン用Pythonツールキット。
テキスト、画像、動画、点群、マルチモーダルデータをAIで支援しながらアノテーションできる、モデル内蔵のクロスプラットフォーム対応デスクトップアプリ。複数形式へのエクスポートにも対応。
ONNXRuntime、MNN、TensorRTなどで動作する、物体検出・顔認識・セグメンテーション・マッティング向けの100種類以上のAIモデルを備えた軽量C++ツールキット。
NVIDIA GPU上で高性能なディープラーニング推論を実行するSDK、TensorRTのオープンソースコンポーネント。プラグイン、ONNXパーサー、サンプルを含みます。