Ultralytics YOLO는 객체 탐지, 분할, 분류, 자세 추정, 추적 등을 지원하는 컴퓨터 비전용 Python 라이브러리입니다.
laugh12321/TensorRT-YOLO
TensorRT를 사용해 NVIDIA GPU에서 YOLO 계열 모델의 탐지, 분할, 분류, 자세 추정 및 OBB 작업을 배포하는 C++/Python 툴킷입니다.
- 스타
- 1,895
- 포크
- 199
- 열린 이슈
- 2
- 마지막 커밋
- 지난달
어떤 프로젝트인가요?
TensorRT-YOLO는 TensorRT를 통해 NVIDIA 하드웨어에서 YOLO 계열 모델을 실행하기 위한 배포 툴킷입니다. 객체 탐지, 인스턴스 분할, 이미지 분류, 자세 추정, 회전 객체 탐지를 위한 C++ 및 Python 추론 인터페이스를 제공하며, 비디오 분석 예제도 포함합니다.
이 툴킷은 후처리용 TensorRT 플러그인을 추가하고 전처리에 CUDA 커널을 사용하며, 추론 속도를 높이기 위해 CUDA Graphs를 사용합니다. 함께 제공되는 trtyolo-export 도구로 ONNX 모델을 TensorRT 엔진으로 변환하며, Python과 C++ API는 동일한 추론 파이프라인을 공유합니다. YOLOv3부터 YOLO26까지 지원하며, YOLO-World 및 YOLO-Master 변형도 지원한다고 명시되어 있습니다.
커뮤니티 에디션(6.4)은 GPL-3.0 라이선스이며, CUDA와 TensorRT가 필요한 x64 및 ARM용 Linux와 Windows를 지원합니다. C++ 부분은 서드파티 의존성이 없는 단일 헤더로 구성되어 있으며, Docker와 CLI도 제공됩니다. 페이지에는 이 저장소에 포함되지 않은 비공개 프로페셔널 에디션도 소개되어 있습니다.
핵심 기능
- 01YOLO 계열 모델의 탐지, 분할, 분류, 자세 추정 및 OBB 작업을 지원합니다.
- 02동일한 파이프라인을 사용하는 C++ 및 Python 추론 API를 제공합니다.
- 03후처리에 TensorRT 플러그인을 사용하고, 속도 향상을 위해 CUDA 커널과 CUDA Graphs를 활용합니다.
- 04모델 구조를 자동으로 감지하는 CLI를 제공합니다.
- 05C++ 모듈은 서드파티 의존성이 없는 단일 헤더로 구성되어 있습니다.
활용 사례
- NVIDIA GPU 또는 Jetson 장치에서 실시간 YOLO 객체 탐지를 배포합니다.
- TensorRT 엔진으로 인스턴스 분할 또는 자세 추정 서비스를 실행합니다.
- 멀티 컨텍스트 추론을 사용해 C++ 애플리케이션에서 여러 YOLO 모델을 제공합니다.
- NVIDIA 하드웨어에서 비디오 분석 파이프라인을 구축합니다.
빠른 시작
- 1
TensorRT-YOLO 저장소를 클론합니다
git clone https://github.com/laugh12321/TensorRT-YOLO - 2
Python 바인딩용 pybind11을 설치합니다
pip install "pybind11[global]" - 3
TRT_PATH를 TensorRT 디렉터리로 지정해 CMake 빌드를 구성합니다
cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir - 4
라이브러리를 빌드하고 설치합니다
cmake --build build -j$(nproc) --config Release --target install
사용 전 알아둘 점
- CUDA와 TensorRT가 설치된 NVIDIA GPU가 필요합니다(TensorRT 8.6.1 이상 권장).
- GPL-3.0 라이선스가 적용됩니다. 카피레프트 라이선스이므로 파생물도 동일한 조건으로 오픈 소스화해야 합니다.
- 커뮤니티 에디션의 추론 인터페이스는 동결되어 있으며 새로운 런타임 아키텍처가 추가되지 않습니다. README에는 고급 기능을 제공하는 비공개 소스 프로페셔널 에디션이 설명되어 있습니다.
포함된 컬렉션
토픽
자주 묻는 질문
- TensorRT-YOLO은(는) 무엇인가요?
- TensorRT를 사용해 NVIDIA GPU에서 YOLO 계열 모델의 탐지, 분할, 분류, 자세 추정 및 OBB 작업을 배포하는 C++/Python 툴킷입니다. TensorRT-YOLO는 TensorRT를 통해 NVIDIA 하드웨어에서 YOLO 계열 모델을 실행하기 위한 배포 툴킷입니다. 객체 탐지, 인스턴스 분할, 이미지 분류, 자세 추정, 회전 객체 탐지를 위한 C++ 및 Python 추론 인터페이스를 제공하며, 비디오 분석 예제도 포함합니다.
- TensorRT-YOLO은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- TensorRT-YOLO은(는) GPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- TensorRT-YOLO은(는) 아직 유지보수되고 있나요?
- 6개월 이내 업데이트. TensorRT-YOLO의 마지막 커밋은 2026년 9월 10일입니다.
- TensorRT-YOLO은(는) 어디에 사용할 수 있나요?
- NVIDIA GPU 또는 Jetson 장치에서 실시간 YOLO 객체 탐지를 배포합니다. TensorRT 엔진으로 인스턴스 분할 또는 자세 추정 서비스를 실행합니다. 멀티 컨텍스트 추론을 사용해 C++ 애플리케이션에서 여러 YOLO 모델을 제공합니다. NVIDIA 하드웨어에서 비디오 분석 파이프라인을 구축합니다.
- TensorRT-YOLO는 어떻게 설치하나요?
- TensorRT-YOLO 저장소를 클론합니다: git clone https://github.com/laugh12321/TensorRT-YOLO Python 바인딩용 pybind11을 설치합니다: pip install "pybind11[global]" TRT_PATH를 TensorRT 디렉터리로 지정해 CMake 빌드를 구성합니다: cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir 라이브러리를 빌드하고 설치합니다: cmake --build build -j$(nproc) --config Release --target install
- TensorRT-YOLO은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/laugh12321/TensorRT-YOLO
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Ultralytics YOLOv5는 객체 탐지, 인스턴스 분할, 이미지 분류를 지원하며 학습과 내보내기를 제공하는 PyTorch 기반 컴퓨터 비전 툴킷입니다.
데이터셋 로드, 객체 탐지, 추적, 프레임 주석 작업에 재사용할 수 있는 컴퓨터 비전 유틸리티 Python 툴킷입니다.
텍스트, 이미지, 동영상, 포인트 클라우드 및 멀티모달 데이터를 AI의 도움으로 어노테이션하고, 내장 모델과 다양한 형식의 내보내기를 지원하는 크로스 플랫폼 데스크톱 앱입니다.
ONNXRuntime, MNN, TensorRT 등을 지원하며 객체 탐지, 얼굴 인식, 세그멘테이션, 매팅용 AI 모델 100개 이상을 제공하는 경량 C++ 툴킷입니다.
NVIDIA GPU에서 딥러닝 추론 성능을 높여 주는 SDK, TensorRT의 오픈 소스 구성 요소로 플러그인, ONNX 파서, 샘플을 포함합니다.