Repolode
投稿する
understandable-machine-intelligence-lab

understandable-machine-intelligence-lab/Quantus

PyTorchとTensorFlowに対応し、30種類以上のXAI指標でニューラルネットワークの説明を定量評価できるオープンソースのPythonツールキット。

GitHub で見る公式サイト
スター
680
フォーク
94
未解決の Issue
66
最終コミット
11 日前

これは何？

Quantusは、ニューラルネットワーク向けの説明可能なAI（XAI）手法が生成する説明を評価するためのツールキットです。サリエンシーマップを目で比較するだけでは、どの手法が最も優れているか判断しにくく、正解データも通常は入手できません。そこでQuantusは、説明手法同士を比較するための定量指標を提供します。

指標は、忠実度、頑健性、局所性、複雑性、ランダム化（感度）、公理的性質の6カテゴリに分類されています。画像、表形式、時系列データに対応し、PyTorchまたはTensorFlowで構築されたモデルを利用できます。事前計算済みのアトリビューション、または説明関数を渡すことができ、quantus.evaluate()を1回呼び出すだけで、複数のXAI手法に対して複数の指標を実行できます。

Captum、Zennit、tf-explainの説明手法をそのまま利用できます。PyPIからインストールでき、Journal of Machine Learning Research（MLOSSトラック）で発表されています。

主な機能

  • 01忠実度、頑健性、局所性など6カテゴリにわたる30種類以上の評価指標を提供。
  • 02PyTorchおよびTensorFlowのモデルに対応。
  • 03画像、表形式、時系列データに対応。
  • 04事前計算済みのアトリビューション、または任意の説明関数を受け付けます。
  • 05quantus.evaluate()を使って、複数のXAI手法に対する多数の指標を一度に実行できます。
  • 06Captum、Zennit、tf-explainと連携します。

ユースケース

  • 学習済み画像分類器に最適な説明手法をベンチマークする。
  • 小さな入力摂動を加えても説明が安定しているか確認する。
  • 研究パイプラインで、表形式データのモデルに対する説明の品質を比較する。
  • 公表済みのXAI評価指標を、一貫した実装で再現する。

使う前に知っておきたいこと

  • ライセンスが明確に特定されておらず（NOASSERTION と記載）、使用前にリポジトリのライセンス条件を確認してください。
  • README にはプロジェクトが活発に開発中と記載されています。結果を再現可能にするため、特定のリリースバージョンを固定してください。

トピック

#explainable-ai#interpretability#deep-learning#pytorch#tensorflow#model-evaluation#machine-learning#quantification-evaluation-methods#reproducibility#xai

よくある質問

Quantus とは？
PyTorchとTensorFlowに対応し、30種類以上のXAI指標でニューラルネットワークの説明を定量評価できるオープンソースのPythonツールキット。 Quantusは、ニューラルネットワーク向けの説明可能なAI（XAI）手法が生成する説明を評価するためのツールキットです。サリエンシーマップを目で比較するだけでは、どの手法が最も優れているか判断しにくく、正解データも通常は入手できません。そこでQuantusは、説明手法同士を比較するための定量指標を提供します。
Quantus は無料で使えますか？ライセンスは？
Quantus は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
Quantus は今もメンテナンスされていますか？
活発にメンテナンス中。Quantus の最終コミットは 2026年10月26日 です。
Quantus は何に使えますか？
学習済み画像分類器に最適な説明手法をベンチマークする。 小さな入力摂動を加えても説明が安定しているか確認する。 研究パイプラインで、表形式データのモデルに対する説明の品質を比較する。 公表済みのXAI評価指標を、一貫した実装で再現する。
Quantus はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/understandable-machine-intelligence-lab/Quantus

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト