Repolode
laugh12321

laugh12321/TensorRT-YOLO

TensorRTを使ってNVIDIA GPU上にYOLO系モデルをデプロイするC++/Pythonツールキット。検出、セグメンテーション、分類、姿勢推定、OBBに対応。

スター
1,895
フォーク
199
未解決の Issue
2
最終コミット
先月

これは何?

TensorRT-YOLOは、TensorRTを介してNVIDIA製ハードウェア上でYOLO系モデルを実行するためのデプロイ用ツールキットです。物体検出、インスタンスセグメンテーション、画像分類、姿勢推定、回転物体検出に対応したC++およびPythonの推論インターフェースを備え、動画解析のサンプルも含まれています。

後処理用のTensorRTプラグインを追加し、前処理にはCUDAカーネルを使用、CUDA Graphsで推論を高速化します。モデルは付属のtrtyolo-exportツールを使ってONNXからTensorRTエンジンに変換でき、Python APIとC++ APIで同じ推論パイプラインを共有します。YOLOv3からYOLO26までに加えて、YOLO-WorldとYOLO-Masterの各バリアントにも対応すると記載されています。

Community Edition(6.4)はGPL-3.0ライセンスで、CUDAとTensorRTが必要です。LinuxおよびWindowsのx64とARMに対応しています。C++部分はサードパーティ依存のない単一ヘッダーで構成され、DockerとCLIも提供されています。また、このリポジトリには含まれないクローズドソースのProfessional Editionについても説明されています。

主な機能

  • 01YOLO系モデルの検出、セグメンテーション、分類、姿勢推定、OBBタスクに対応。
  • 02同一の推論パイプラインを使うC++とPythonの推論APIを提供。
  • 03後処理にはTensorRTプラグインを使用し、CUDAカーネルとCUDA Graphsで高速化。
  • 04モデル構造を自動検出するCLIを提供。
  • 05C++モジュールはサードパーティ依存のない単一ヘッダー。

ユースケース

  • NVIDIA GPUやJetsonデバイス上でリアルタイムYOLO物体検出をデプロイする。
  • TensorRTエンジンを使ったインスタンスセグメンテーションや姿勢推定のサービスを実行する。
  • マルチコンテキスト推論を使い、C++アプリケーションで複数のYOLOモデルを提供する。
  • NVIDIA製ハードウェア上で動画解析パイプラインを構築する。

クイックスタート

  1. 1

    TensorRT-YOLOリポジトリをクローンする

    git clone https://github.com/laugh12321/TensorRT-YOLO
  2. 2

    Pythonバインディング用にpybind11をインストールする

    pip install "pybind11[global]"
  3. 3

    TRT_PATHをTensorRTのディレクトリに設定して、CMakeでビルドを構成する

    cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir
  4. 4

    ライブラリをビルドしてインストールする

    cmake --build build -j$(nproc) --config Release --target install

使う前に知っておきたいこと

  • CUDAとTensorRTがインストールされたNVIDIA GPUが必要です(TensorRT 8.6.1以降を推奨)。
  • GPL-3.0ライセンスの適用対象です。コピーレフトライセンスであり、派生物も同じ条件でオープンソースにする必要があります。
  • コミュニティ版の推論インターフェースは固定されており、新しいランタイムアーキテクチャは追加されません。READMEには、高度な機能を備えたクローズドソースのプロフェッショナル版について記載されています。

収録されている特集

トピック

よくある質問

TensorRT-YOLO とは?
TensorRTを使ってNVIDIA GPU上にYOLO系モデルをデプロイするC++/Pythonツールキット。検出、セグメンテーション、分類、姿勢推定、OBBに対応。 TensorRT-YOLOは、TensorRTを介してNVIDIA製ハードウェア上でYOLO系モデルを実行するためのデプロイ用ツールキットです。物体検出、インスタンスセグメンテーション、画像分類、姿勢推定、回転物体検出に対応したC++およびPythonの推論インターフェースを備え、動画解析のサンプルも含まれています。
TensorRT-YOLO は無料で使えますか?ライセンスは?
TensorRT-YOLO は GPL-3.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
TensorRT-YOLO は今もメンテナンスされていますか?
半年以内に更新あり。TensorRT-YOLO の最終コミットは 2026年9月10日 です。
TensorRT-YOLO は何に使えますか?
NVIDIA GPUやJetsonデバイス上でリアルタイムYOLO物体検出をデプロイする。 TensorRTエンジンを使ったインスタンスセグメンテーションや姿勢推定のサービスを実行する。 マルチコンテキスト推論を使い、C++アプリケーションで複数のYOLOモデルを提供する。 NVIDIA製ハードウェア上で動画解析パイプラインを構築する。
TensorRT-YOLO のインストール方法は?
TensorRT-YOLOリポジトリをクローンする: git clone https://github.com/laugh12321/TensorRT-YOLO Pythonバインディング用にpybind11をインストールする: pip install "pybind11[global]" TRT_PATHをTensorRTのディレクトリに設定して、CMakeでビルドを構成する: cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir ライブラリをビルドしてインストールする: cmake --build build -j$(nproc) --config Release --target install
TensorRT-YOLO はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/laugh12321/TensorRT-YOLO

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト