Repolode
laugh12321

laugh12321/TensorRT-YOLO

TensorRT를 사용해 NVIDIA GPU에서 YOLO 계열 모델의 탐지, 분할, 분류, 자세 추정 및 OBB 작업을 배포하는 C++/Python 툴킷입니다.

스타
1,895
포크
199
열린 이슈
2
마지막 커밋
지난달

어떤 프로젝트인가요?

TensorRT-YOLO는 TensorRT를 통해 NVIDIA 하드웨어에서 YOLO 계열 모델을 실행하기 위한 배포 툴킷입니다. 객체 탐지, 인스턴스 분할, 이미지 분류, 자세 추정, 회전 객체 탐지를 위한 C++ 및 Python 추론 인터페이스를 제공하며, 비디오 분석 예제도 포함합니다.

이 툴킷은 후처리용 TensorRT 플러그인을 추가하고 전처리에 CUDA 커널을 사용하며, 추론 속도를 높이기 위해 CUDA Graphs를 사용합니다. 함께 제공되는 trtyolo-export 도구로 ONNX 모델을 TensorRT 엔진으로 변환하며, Python과 C++ API는 동일한 추론 파이프라인을 공유합니다. YOLOv3부터 YOLO26까지 지원하며, YOLO-World 및 YOLO-Master 변형도 지원한다고 명시되어 있습니다.

커뮤니티 에디션(6.4)은 GPL-3.0 라이선스이며, CUDA와 TensorRT가 필요한 x64 및 ARM용 Linux와 Windows를 지원합니다. C++ 부분은 서드파티 의존성이 없는 단일 헤더로 구성되어 있으며, Docker와 CLI도 제공됩니다. 페이지에는 이 저장소에 포함되지 않은 비공개 프로페셔널 에디션도 소개되어 있습니다.

핵심 기능

  • 01YOLO 계열 모델의 탐지, 분할, 분류, 자세 추정 및 OBB 작업을 지원합니다.
  • 02동일한 파이프라인을 사용하는 C++ 및 Python 추론 API를 제공합니다.
  • 03후처리에 TensorRT 플러그인을 사용하고, 속도 향상을 위해 CUDA 커널과 CUDA Graphs를 활용합니다.
  • 04모델 구조를 자동으로 감지하는 CLI를 제공합니다.
  • 05C++ 모듈은 서드파티 의존성이 없는 단일 헤더로 구성되어 있습니다.

활용 사례

  • NVIDIA GPU 또는 Jetson 장치에서 실시간 YOLO 객체 탐지를 배포합니다.
  • TensorRT 엔진으로 인스턴스 분할 또는 자세 추정 서비스를 실행합니다.
  • 멀티 컨텍스트 추론을 사용해 C++ 애플리케이션에서 여러 YOLO 모델을 제공합니다.
  • NVIDIA 하드웨어에서 비디오 분석 파이프라인을 구축합니다.

빠른 시작

  1. 1

    TensorRT-YOLO 저장소를 클론합니다

    git clone https://github.com/laugh12321/TensorRT-YOLO
  2. 2

    Python 바인딩용 pybind11을 설치합니다

    pip install "pybind11[global]"
  3. 3

    TRT_PATH를 TensorRT 디렉터리로 지정해 CMake 빌드를 구성합니다

    cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir
  4. 4

    라이브러리를 빌드하고 설치합니다

    cmake --build build -j$(nproc) --config Release --target install

사용 전 알아둘 점

  • CUDA와 TensorRT가 설치된 NVIDIA GPU가 필요합니다(TensorRT 8.6.1 이상 권장).
  • GPL-3.0 라이선스가 적용됩니다. 카피레프트 라이선스이므로 파생물도 동일한 조건으로 오픈 소스화해야 합니다.
  • 커뮤니티 에디션의 추론 인터페이스는 동결되어 있으며 새로운 런타임 아키텍처가 추가되지 않습니다. README에는 고급 기능을 제공하는 비공개 소스 프로페셔널 에디션이 설명되어 있습니다.

포함된 컬렉션

토픽

자주 묻는 질문

TensorRT-YOLO은(는) 무엇인가요?
TensorRT를 사용해 NVIDIA GPU에서 YOLO 계열 모델의 탐지, 분할, 분류, 자세 추정 및 OBB 작업을 배포하는 C++/Python 툴킷입니다. TensorRT-YOLO는 TensorRT를 통해 NVIDIA 하드웨어에서 YOLO 계열 모델을 실행하기 위한 배포 툴킷입니다. 객체 탐지, 인스턴스 분할, 이미지 분류, 자세 추정, 회전 객체 탐지를 위한 C++ 및 Python 추론 인터페이스를 제공하며, 비디오 분석 예제도 포함합니다.
TensorRT-YOLO은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
TensorRT-YOLO은(는) GPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
TensorRT-YOLO은(는) 아직 유지보수되고 있나요?
6개월 이내 업데이트. TensorRT-YOLO의 마지막 커밋은 2026년 9월 10일입니다.
TensorRT-YOLO은(는) 어디에 사용할 수 있나요?
NVIDIA GPU 또는 Jetson 장치에서 실시간 YOLO 객체 탐지를 배포합니다. TensorRT 엔진으로 인스턴스 분할 또는 자세 추정 서비스를 실행합니다. 멀티 컨텍스트 추론을 사용해 C++ 애플리케이션에서 여러 YOLO 모델을 제공합니다. NVIDIA 하드웨어에서 비디오 분석 파이프라인을 구축합니다.
TensorRT-YOLO는 어떻게 설치하나요?
TensorRT-YOLO 저장소를 클론합니다: git clone https://github.com/laugh12321/TensorRT-YOLO Python 바인딩용 pybind11을 설치합니다: pip install "pybind11[global]" TRT_PATH를 TensorRT 디렉터리로 지정해 CMake 빌드를 구성합니다: cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir 라이브러리를 빌드하고 설치합니다: cmake --build build -j$(nproc) --config Release --target install
TensorRT-YOLO은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/laugh12321/TensorRT-YOLO

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트