Tencent/ncnn

これは何？

主な機能

• 01ARM NEON最適化とマルチコアスケジューリングを備えたCPU、またはVulkan GPUで動作します。
• 02サードパーティのランタイム依存がありません。
• 03pnnxツールでPyTorchおよびONNXモデルを変換できます。
• 04C++、C、Python APIを提供します。
• 05fp16およびint8の量子化推論とカスタムレイヤーに対応しています。
• 06Android、iOS、HarmonyOS、Windows、Linux、macOS、WebAssembly向けにビルドできます。

ユースケース

• モバイルアプリ内で物体検出や顔検出モデルを実行する。
• 重いランタイムを使わずに、PyTorchモデルを組み込みボードにデプロイする。
• WebAssemblyを介してブラウザー内でニューラルネットワーク推論を実行する。
• C++デスクトップアプリケーションにAI機能を追加する。

クイックスタート

1. 1

   PyTorch環境にpnnxをインストールする

   pip3 install pnnx
2. 2

   pnnx.exportでPyTorchモデルをncnnにエクスポートする

3. 3

   生成されたモデルを読み込み、ncnnのC++またはPython APIで推論を実行する

使う前に知っておきたいこと

• !多くのプラットフォーム向けにncnnをビルドするには、別途用意されているビルド方法のWikiガイドに従う必要があります。
• !メタデータ上のライセンスは未設定ですが、READMEのバッジにはBSD 3-Clauseと記載されています。使用前にLICENSE.txtを確認してください。

トピック

よくある質問

ncnn とは？

モバイル、組み込み機器、デスクトップで深層学習モデルを実行するための、高性能なC++ニューラルネットワーク推論フレームワークです。 ncnnは、学習済みモデルをスマートフォン、PC、ブラウザー、エッジデバイスにデプロイするための、C++製ニューラルネットワーク推論フレームワークです。サードパーティのランタイム依存がなく、ARM NEON最適化を備えたCPU、またはVulkan GPUで動作します。

ncnn は無料で使えますか？ライセンスは？

ncnn は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

ncnn は今もメンテナンスされていますか？

活発にメンテナンス中。ncnn の最終コミットは 2026年10月20日 です。

ncnn は何に使えますか？

モバイルアプリ内で物体検出や顔検出モデルを実行する。 重いランタイムを使わずに、PyTorchモデルを組み込みボードにデプロイする。 WebAssemblyを介してブラウザー内でニューラルネットワーク推論を実行する。 C++デスクトップアプリケーションにAI機能を追加する。

ncnn のインストール方法は？

PyTorch環境にpnnxをインストールする: pip3 install pnnx pnnx.exportでPyTorchモデルをncnnにエクスポートする 生成されたモデルを読み込み、ncnnのC++またはPython APIで推論を実行する

ncnn はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/Tencent/ncnn