laugh12321/TensorRT-YOLO

Что это?

Ключевые возможности

• 01Поддерживает задачи детекции, сегментации, классификации, оценки позы и OBB для моделей семейства YOLO.
• 02Предоставляет API инференса на C++ и Python с общим конвейером.
• 03Для постобработки использует плагины TensorRT, а для ускорения — CUDA kernels и CUDA Graphs.
• 04Предоставляет CLI, который автоматически определяет структуру модели.
• 05Модуль на C++ состоит из одного заголовочного файла и не имеет сторонних зависимостей.

Сценарии использования

• Развёртывание детекции объектов в реальном времени с помощью YOLO на GPU NVIDIA или устройствах Jetson.
• Запуск сервисов сегментации экземпляров или оценки позы с движками TensorRT.
• Обслуживание нескольких моделей YOLO в приложениях на C++ с инференсом в нескольких контекстах.
• Создание конвейеров видеоаналитики на оборудовании NVIDIA.

Быстрый старт

1. 1

   Клонируйте репозиторий TensorRT-YOLO

   git clone https://github.com/laugh12321/TensorRT-YOLO
2. 2

   Установите pybind11 для привязок Python

   pip install "pybind11[global]"
3. 3

   Настройте сборку с помощью CMake, указав каталог TensorRT в TRT_PATH

   cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir
4. 4

   Соберите и установите библиотеку

   cmake --build build -j$(nproc) --config Release --target install

Что важно знать

• !Требуется GPU NVIDIA с установленными CUDA и TensorRT (рекомендуется TensorRT 8.6.1 или новее).
• !Лицензия GPL-3.0 — это лицензия с авторским левом, требующая публиковать производные работы с открытым исходным кодом на тех же условиях.
• !Интерфейс инференса в версии для сообщества зафиксирован и не будет поддерживать новую архитектуру runtime; в README описана закрытая профессиональная версия с расширенными функциями.

В подборках

Темы

Частые вопросы

Что такое TensorRT-YOLO?

Набор инструментов на C++/Python для запуска моделей семейства YOLO на GPU NVIDIA с помощью TensorRT: детекция, сегментация, классификация, оценка позы и OBB. TensorRT-YOLO — набор инструментов для запуска моделей семейства YOLO на оборудовании NVIDIA с помощью TensorRT. Он предоставляет интерфейсы инференса на C++ и Python для детекции объектов, сегментации экземпляров, классификации изображений, оценки позы и детекции объектов с поворотом, а также содержит пример анализа видео.

TensorRT-YOLO можно использовать бесплатно? Какая у него лицензия?

TensorRT-YOLO распространяется с открытым исходным кодом под лицензией GPL-3.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

TensorRT-YOLO всё ещё поддерживается?

Обновлялся за последние 6 месяцев. Последний коммит в TensorRT-YOLO — 10 сент. 2026 г..

Для чего можно использовать TensorRT-YOLO?

Развёртывание детекции объектов в реальном времени с помощью YOLO на GPU NVIDIA или устройствах Jetson. Запуск сервисов сегментации экземпляров или оценки позы с движками TensorRT. Обслуживание нескольких моделей YOLO в приложениях на C++ с инференсом в нескольких контекстах. Создание конвейеров видеоаналитики на оборудовании NVIDIA.

Как установить TensorRT-YOLO?

Клонируйте репозиторий TensorRT-YOLO: git clone https://github.com/laugh12321/TensorRT-YOLO Установите pybind11 для привязок Python: pip install "pybind11[global]" Настройте сборку с помощью CMake, указав каталог TensorRT в TRT_PATH: cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir Соберите и установите библиотеку: cmake --build build -j$(nproc) --config Release --target install

Где скачать TensorRT-YOLO?

Исходный код и инструкции по установке — на GitHub: https://github.com/laugh12321/TensorRT-YOLO