PyTorchのオンデバイス推論スタック。エクスポートしたモデルをスマートフォン、ノートPC、ブラウザ、マイクロコントローラーで実行できます。
airockchip/rknn-toolkit2
学習済みAIモデルをRKNN形式に変換し、Python APIやC APIを使ってRockchip NPU搭載ボードで推論を実行するSDK。
- スター
- 3,463
- フォーク
- 409
- 未解決の Issue
- 473
- 最終コミット
- 9 時間前
これは何?
RKNN-Toolkit2は、NPU搭載のRockchipチップにAIモデルをデプロイするためのRockchip製SDKです。開発者はPC上でツールキットを実行して学習済みモデルをRKNN形式に変換し、その後、対象ボード上でPython API(RKNN-Toolkit-Lite2)またはC/C++ RKNN Runtime APIを使って推論を実行します。
PC向けツールキットには、モデル変換、推論シミュレーション、性能評価の機能もあります。プロジェクトでは、RK3588、RK3576、RK3566/RK3568、RK3562、複数のRV11xxチップ、RK2118をサポート対象として挙げています。ハードウェアと通信するRKNPUカーネルドライバーはオープンソースとして説明されており、Rockchipのカーネルコードに含まれています。
リポジトリによると、RKNN-Toolkit2はRK1808、RV1109、RV1126、RK3399Pro向けの旧RKNN-Toolkitとは互換性がありません。LLMのデプロイには、別途RKNN-LLM SDKを利用するようRockchipが案内しています。
主な機能
- 01学習済みモデルをRockchip NPU向けのRKNN形式に変換します。
- 02ボード上で推論を実行するためのPython API(RKNN-Toolkit-Lite2)を提供します。
- 03RKNNモデルのデプロイに使えるC/C++ランタイムAPIを提供します。
- 04PC上でのモデル変換と性能評価に対応します。
- 05RK3588からRV1103/RV1106まで、複数のRockchipチップファミリーをサポートします。
ユースケース
- Rockchipベースのエッジデバイスにコンピュータービジョンモデルをデプロイする。
- RK3588ボードに搭載する前に、変換したモデルの性能をベンチマークする。
- 組み込みLinuxボード上のPythonまたはC++アプリケーションからRKNN推論を実行する。
クイックスタート
- 1
READMEのRKNPU2_SDKリンクから、パッケージ、Dockerイメージ、サンプルをダウンロードします
- 2
rknn_model_zooリポジトリから、さらに多くのサンプルプロジェクトを入手します
使う前に知っておきたいこと
- Rockchip NPUプラットフォームのみが対象のため、推論には対応するRockchipボードが必要です。
- ライセンスが明確に指定されていない(NOASSERTION)ため、商用利用の前に条件を確認してください。
- RKNN-Toolkit2は旧バージョンのRKNN-Toolkitと互換性がありません。また、RK1808やRV1126などの旧チップには、別のリポジトリが用意されています。
トピック
よくある質問
- rknn-toolkit2 とは?
- 学習済みAIモデルをRKNN形式に変換し、Python APIやC APIを使ってRockchip NPU搭載ボードで推論を実行するSDK。 RKNN-Toolkit2は、NPU搭載のRockchipチップにAIモデルをデプロイするためのRockchip製SDKです。開発者はPC上でツールキットを実行して学習済みモデルをRKNN形式に変換し、その後、対象ボード上でPython API(RKNN-Toolkit-Lite2)またはC/C++ RKNN Runtime APIを使って推論を実行します。
- rknn-toolkit2 は無料で使えますか?ライセンスは?
- rknn-toolkit2 は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- rknn-toolkit2 は今もメンテナンスされていますか?
- 活発にメンテナンス中。rknn-toolkit2 の最終コミットは 2026年10月20日 です。
- rknn-toolkit2 は何に使えますか?
- Rockchipベースのエッジデバイスにコンピュータービジョンモデルをデプロイする。 RK3588ボードに搭載する前に、変換したモデルの性能をベンチマークする。 組み込みLinuxボード上のPythonまたはC++アプリケーションからRKNN推論を実行する。
- rknn-toolkit2 のインストール方法は?
- READMEのRKNPU2_SDKリンクから、パッケージ、Dockerイメージ、サンプルをダウンロードします rknn_model_zooリポジトリから、さらに多くのサンプルプロジェクトを入手します
- rknn-toolkit2 はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/airockchip/rknn-toolkit2
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
llama.cppをベースにした、1-bit(ternary、1.58-bit)LLM向けMicrosoft公式のCPU/GPU推論フレームワーク。
コンシューマー向けGPUやCPUでDeepSeek-V4やQwen3.6などの大規模なオープンウェイトモデルを動かす、エッジネイティブなMoE推論エンジン。
Intel CPU、GPU、NPUで推論するディープラーニングモデルを最適化・デプロイするオープンソースツールキット。
依存関係なしで、約45MBのRAMを使う低価格ボード上で1BクラスのLLaMAアーキテクチャGGUFモデルを実行する、最小構成のC11製LLM推論エンジン。
Ultralytics YOLOv5は、物体検出、インスタンスセグメンテーション、画像分類の学習とエクスポートに対応した、PyTorchベースのコンピュータービジョンツールキットです。