내보낸 모델을 휴대폰, 노트북, 브라우저, 마이크로컨트롤러에서 실행하는 PyTorch의 온디바이스 추론 스택입니다.
airockchip/rknn-toolkit2
학습된 AI 모델을 RKNN 형식으로 변환하고, Python 및 C API를 통해 Rockchip NPU 보드에서 추론을 실행하는 SDK입니다.
- 스타
- 3,463
- 포크
- 409
- 열린 이슈
- 473
- 마지막 커밋
- 9시간 전
어떤 프로젝트인가요?
RKNN-Toolkit2는 NPU를 탑재한 Rockchip 칩에 AI 모델을 배포하기 위한 소프트웨어 개발 키트입니다. 개발자는 PC에서 툴킷을 실행해 학습된 모델을 RKNN 형식으로 변환한 다음, Python API(RKNN-Toolkit-Lite2) 또는 C/C++ RKNN Runtime API를 사용해 대상 보드에서 추론을 실행합니다.
PC 툴킷은 모델 변환뿐 아니라 추론 시뮬레이션과 성능 평가도 지원합니다. 프로젝트에서 지원한다고 명시한 칩은 RK3588, RK3576, RK3566/RK3568, RK3562, 여러 RV11xx 칩, RK2118입니다. 하드웨어와 통신하는 RKNPU 커널 드라이버는 오픈 소스로 설명되어 있으며 Rockchip 커널 코드에 포함되어 있습니다.
저장소에 따르면 RKNN-Toolkit2는 RK1808, RV1109, RV1126, RK3399Pro용 구형 RKNN-Toolkit과 호환되지 않습니다. LLM 배포를 위해 Rockchip은 별도의 RKNN-LLM SDK를 안내합니다.
핵심 기능
- 01학습된 모델을 Rockchip NPU용 RKNN 형식으로 변환합니다.
- 02보드에서 추론할 수 있는 Python API(RKNN-Toolkit-Lite2)를 제공합니다.
- 03RKNN 모델 배포를 위한 C/C++ 런타임 API를 제공합니다.
- 04PC에서 모델 변환 및 성능 평가를 지원합니다.
- 05RK3588부터 RV1103/RV1106까지 여러 Rockchip 칩 제품군을 지원합니다.
활용 사례
- Rockchip 기반 엣지 디바이스에 컴퓨터 비전 모델을 배포합니다.
- RK3588 보드에 배포하기 전에 변환된 모델의 성능을 벤치마킹합니다.
- 임베디드 Linux 보드에서 Python 또는 C++ 애플리케이션으로 RKNN 추론을 실행합니다.
빠른 시작
- 1
README의 RKNPU2_SDK 링크에서 패키지, Docker 이미지, 예제를 다운로드하세요
- 2
rknn_model_zoo 저장소에서 더 많은 예제 프로젝트를 확인하세요
사용 전 알아둘 점
- Rockchip NPU 플랫폼만 대상으로 하므로 추론하려면 지원되는 Rockchip 보드가 필요합니다.
- 라이선스가 명확하게 지정되어 있지 않으므로(NOASSERTION), 상업적으로 사용하기 전에 약관을 확인하세요.
- RKNN-Toolkit2는 이전 버전의 RKNN-Toolkit과 호환되지 않으며, RK1808 및 RV1126과 같은 구형 칩은 별도의 저장소를 사용합니다.
토픽
자주 묻는 질문
- rknn-toolkit2은(는) 무엇인가요?
- 학습된 AI 모델을 RKNN 형식으로 변환하고, Python 및 C API를 통해 Rockchip NPU 보드에서 추론을 실행하는 SDK입니다. RKNN-Toolkit2는 NPU를 탑재한 Rockchip 칩에 AI 모델을 배포하기 위한 소프트웨어 개발 키트입니다. 개발자는 PC에서 툴킷을 실행해 학습된 모델을 RKNN 형식으로 변환한 다음, Python API(RKNN-Toolkit-Lite2) 또는 C/C++ RKNN Runtime API를 사용해 대상 보드에서 추론을 실행합니다.
- rknn-toolkit2은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- rknn-toolkit2은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- rknn-toolkit2은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. rknn-toolkit2의 마지막 커밋은 2026년 10월 20일입니다.
- rknn-toolkit2은(는) 어디에 사용할 수 있나요?
- Rockchip 기반 엣지 디바이스에 컴퓨터 비전 모델을 배포합니다. RK3588 보드에 배포하기 전에 변환된 모델의 성능을 벤치마킹합니다. 임베디드 Linux 보드에서 Python 또는 C++ 애플리케이션으로 RKNN 추론을 실행합니다.
- rknn-toolkit2는 어떻게 설치하나요?
- README의 RKNPU2_SDK 링크에서 패키지, Docker 이미지, 예제를 다운로드하세요 rknn_model_zoo 저장소에서 더 많은 예제 프로젝트를 확인하세요
- rknn-toolkit2은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/airockchip/rknn-toolkit2
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
llama.cpp 기반의 1-bit(ternary, 1.58-bit) 대규모 언어 모델용 Microsoft 공식 CPU/GPU 추론 프레임워크입니다.
소비자용 GPU와 CPU에서 DeepSeek-V4, Qwen3.6 같은 대형 오픈 웨이트 모델을 실행하는 엣지 네이티브 MoE 서빙 엔진입니다.
Intel CPU, GPU, NPU에서 추론할 딥러닝 모델을 최적화하고 배포하는 오픈 소스 툴킷입니다.
의존성 없이 저가형 보드에서 RAM 약 45MB로 10억 매개변수급 LLaMA 아키텍처 GGUF 모델을 실행하는 최소 구성 C11 LLM 추론 엔진입니다.
Ultralytics YOLOv5는 객체 탐지, 인스턴스 분할, 이미지 분류를 지원하며 학습과 내보내기를 제공하는 PyTorch 기반 컴퓨터 비전 툴킷입니다.