Repolode
投稿する
meta-pytorch

meta-pytorch/captum

モデルの予測を左右する入力特徴、ニューロン、学習データのサンプルを説明する、PyTorch向けモデル解釈ライブラリです。

GitHub で見る公式サイト
スター
5,720
フォーク
574
未解決の Issue
91
最終コミット
7 日前

これは何？

Captumは、PyTorch向けのモデル解釈・理解ライブラリです。Integrated Gradients、saliency map、SmoothGrad、DeepLift、GradCAMなどの汎用的な attribution アルゴリズムを実装しており、特定の予測に対する入力要素ごとの重要度スコアを算出します。

入力の attribution に加え、個々のニューロンやレイヤーが出力にどの程度寄与しているかを測定できます。また、予測を影響力のある学習データのサンプルまで遡る、TracInベースの手法も含まれています。反実仮想による説明を生成するための敵対的攻撃や、入力を最小限に摂動するツールも用意されています。torchvisionやtorchtextで構築したモデルとの統合も容易とされています。

Python 3.10以降とPyTorch 2.3以降が必要で、pipまたはcondaでインストールできます。

主な機能

  • 01Integrated Gradients、DeepLift、GradientShap、Saliencyなどの attribution アルゴリズム
  • 02conductance手法によるニューロンやレイヤーの重要度分析
  • 03TracInの各種手法による学習データの影響度推定
  • 04SmoothGradやVarGradで attribution を平滑化するNoiseTunnel
  • 05反実仮想による説明のための敵対的攻撃と入力摂動

ユースケース

  • PyTorchの画像分類器やテキスト分類器が、どの入力ピクセルやトークンに依存しているかを確認する
  • 予期しないモデル出力を、影響力のある学習データのサンプルまで遡ってデバッグする
  • 既存の実装と比較して、新しい解釈アルゴリズムをベンチマークする
  • 本番環境のレコメンドや予測に対して、特徴単位の説明を提供する

クイックスタート

  1. 1

    PyPIからCaptumをインストールする

    pip install captum
  2. 2

    開発版を手動でインストールするには、リポジトリをクローンする

    git clone https://github.com/pytorch/captum.git
  3. 3

    プロジェクトディレクトリに移動し、editableモードでインストールする

    cd captum && pip install -e .

使う前に知っておきたいこと

  • Python 3.10以降とPyTorch 2.3以降が必要です。
  • DeepLiftが現在サポートしているのはRescaleルールのみで、すべての非線形活性化タイプに対応しているわけではありません。

トピック

#pytorch#interpretability#explainable-ai#feature-attribution#deep-learning#model-debugging#feature-importance#interpretable-ai#interpretable-ml

よくある質問

captum とは？
モデルの予測を左右する入力特徴、ニューロン、学習データのサンプルを説明する、PyTorch向けモデル解釈ライブラリです。 Captumは、PyTorch向けのモデル解釈・理解ライブラリです。Integrated Gradients、saliency map、SmoothGrad、DeepLift、GradCAMなどの汎用的な attribution アルゴリズムを実装しており、特定の予測に対する入力要素ごとの重要度スコアを算出します。
captum は無料で使えますか？ライセンスは？
captum は BSD-3-Clause ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
captum は今もメンテナンスされていますか？
活発にメンテナンス中。captum の最終コミットは 2026年11月1日 です。
captum は何に使えますか？
PyTorchの画像分類器やテキスト分類器が、どの入力ピクセルやトークンに依存しているかを確認する 予期しないモデル出力を、影響力のある学習データのサンプルまで遡ってデバッグする 既存の実装と比較して、新しい解釈アルゴリズムをベンチマークする 本番環境のレコメンドや予測に対して、特徴単位の説明を提供する
captum のインストール方法は？
PyPIからCaptumをインストールする: pip install captum 開発版を手動でインストールするには、リポジトリをクローンする: git clone https://github.com/pytorch/captum.git プロジェクトディレクトリに移動し、editableモードでインストールする: cd captum && pip install -e .
captum はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/meta-pytorch/captum

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト