inisis/OnnxSlim

これは何？

主な機能

• 01精度の維持を目指しながら、ONNXグラフ内の演算子数を削減します。
• 02モデルを手軽にスリム化できるコマンドラインツールを提供します。
• 03読み込んだONNXモデルを受け取り、最適化したモデルを返すPython APIを提供します。
• 04PyPIまたはソースからインストールできます。

ユースケース

• ONNX Runtimeでデプロイする前に、ONNXモデルのサイズと演算子数を削減する。
• PyTorchなどのフレームワークを使ったモデルエクスポートのパイプラインに、最適化処理を追加する。
• LLMや画像認識の推論ワークロードで使うモデルをスリム化する。

クイックスタート

1. 1

   PyPIからビルド済みパッケージをインストールする

   pip install onnxslim
2. 2

   コマンドラインからONNXモデルを軽量化する

   onnxslim your_onnx_model slimmed_onnx_model

トピック

よくある質問

OnnxSlim とは？

精度を保ちながら演算子数を減らしてONNXモデルを最適化し、推論の高速化を目指すPythonツールキット。 OnnxSlimは、冗長な演算子を削除してONNXモデルをスリム化します。生成されるグラフは小さくなり、通常は推論も高速化します。コマンドラインから`onnxslim input output`を1回実行するだけで使えるほか、Pythonからは読み込んだモデルを`onnxslim.slim()`に渡し、結果を保存できます。

OnnxSlim は無料で使えますか？ライセンスは？

OnnxSlim は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

OnnxSlim は今もメンテナンスされていますか？

活発にメンテナンス中。OnnxSlim の最終コミットは 2026年10月16日 です。

OnnxSlim は何に使えますか？

ONNX Runtimeでデプロイする前に、ONNXモデルのサイズと演算子数を削減する。 PyTorchなどのフレームワークを使ったモデルエクスポートのパイプラインに、最適化処理を追加する。 LLMや画像認識の推論ワークロードで使うモデルをスリム化する。

OnnxSlim のインストール方法は？

PyPIからビルド済みパッケージをインストールする: pip install onnxslim コマンドラインからONNXモデルを軽量化する: onnxslim your_onnx_model slimmed_onnx_model

OnnxSlim はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/inisis/OnnxSlim