laugh12321/TensorRT-YOLO

这是什么？

核心功能

• 01支持 YOLO 系列模型的检测、分割、分类、姿态估计和旋转目标检测任务。
• 02同时提供 C++ 与 Python 推理接口，流程一致。
• 03通过 TensorRT 插件处理后处理，并用 CUDA 核函数与 CUDA Graph 加速。
• 04命令行工具可自动识别模型结构。
• 05C++ 部分仅需单个头文件，无第三方依赖。

适用场景

• 在 NVIDIA GPU 或 Jetson 设备上部署实时 YOLO 目标检测。
• 用 TensorRT 引擎运行实例分割或姿态估计服务。
• 在 C++ 应用中通过多 Context 推理同时服务多个 YOLO 模型。
• 在 NVIDIA 硬件上搭建视频分析流水线。

快速上手

1. 1

   克隆 TensorRT-YOLO 仓库

   git clone https://github.com/laugh12321/TensorRT-YOLO
2. 2

   安装用于生成 Python 绑定的 pybind11

   pip install "pybind11[global]"
3. 3

   使用 CMake 配置编译，将 TRT_PATH 指向你的 TensorRT 目录

   cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir
4. 4

   编译并安装库

   cmake --build build -j$(nproc) --config Release --target install

使用前须知

• !需要 NVIDIA GPU，并安装 CUDA 与 TensorRT（推荐 TensorRT 8.6.1 或更高版本）。
• !采用 GPL-3.0 许可证，属于 Copyleft 许可，衍生作品需以相同条款开源。
• !社区版推理接口已冻结，不再合入新的运行时架构；更多高级能力见 README 中描述的闭源专业版。

收录于专题

标签

常见问题

TensorRT-YOLO 是什么？

面向 NVIDIA 设备的 YOLO 系列 TensorRT 推理部署工具，支持C++与Python。 TensorRT-YOLO 是一款面向 NVIDIA 设备的 YOLO 系列模型推理部署工具，基于 TensorRT 运行，提供 C++ 与 Python 两套推理接口。支持目标检测、实例分割、图像分类、姿态估计和旋转目标检测等任务，并附有视频分析示例。

TensorRT-YOLO 可以免费使用吗？用的什么许可证？

TensorRT-YOLO 以 GPL-3.0 许可证开源。用于商业产品前，请先确认许可证条款。

TensorRT-YOLO 还在维护吗？

半年内有更新。TensorRT-YOLO 最近一次提交是在 2026年9月10日。

TensorRT-YOLO 适合用来做什么？

在 NVIDIA GPU 或 Jetson 设备上部署实时 YOLO 目标检测。 用 TensorRT 引擎运行实例分割或姿态估计服务。 在 C++ 应用中通过多 Context 推理同时服务多个 YOLO 模型。 在 NVIDIA 硬件上搭建视频分析流水线。

TensorRT-YOLO 怎么安装和运行？

克隆 TensorRT-YOLO 仓库: git clone https://github.com/laugh12321/TensorRT-YOLO 安装用于生成 Python 绑定的 pybind11: pip install "pybind11[global]" 使用 CMake 配置编译，将 TRT_PATH 指向你的 TensorRT 目录: cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir 编译并安装库: cmake --build build -j$(nproc) --config Release --target install

在哪里获取 TensorRT-YOLO？

源代码和安装说明在 GitHub 上：https://github.com/laugh12321/TensorRT-YOLO