Repolode
pyc-team

pyc-team/pytorch_concepts

PyTorch Lightningを基盤に、アノテーション付きテンソル、介入、確率的グラフィカルモデルを使って、概念ベースの解釈可能な深層学習モデルを構築するライブラリ。

スター
293
フォーク
30
未解決の Issue
11
最終コミット
3 日前

これは何?

PyC(PyTorch Concepts)は、PyTorchとPyTorch Lightningを基盤とするPythonライブラリです。予測を人が理解できる概念で表現する深層学習モデルを設計できます。入力をそのままターゲットに対応付けるのではなく、概念に名前を付けて計算・学習し、確認や編集ができるようにモデルを構成します。

このライブラリは、値を概念名・型・カーディナリティに結び付けるアノテーション付きテンソル、概念の型に応じてスコアを計算する概念レイヤーと損失関数、フォワードパス中に選択した概念値を上書きする介入用コンテキストマネージャーを提供します。中位レベルのAPIでは、概念と埋め込みを対象とする解釈可能な確率的グラフィカルモデルを定義し、その上で推論を実行できます。

PyCは複数のレイヤーで構成されています。低レベルの解釈可能なレイヤー、中位レベルの確率モデル、PyTorchまたはLightningのモジュールとして使える高レベルの既製モデルに加え、HydraとWandBを基盤とする、設定駆動型のノーコードツールConceptariumがあり、大規模な実験を実行できます。このプロジェクトはalpha版のため、公開APIはリリース間で変更される可能性があります。

主な機能

  • 01概念名または概念型でデータをスライスできるアノテーション付きテンソル。
  • 02埋め込みまたは概念を別の概念に対応付ける概念レイヤー。
  • 03二値・カテゴリ・連続の各概念に適した損失を適用する概念損失。
  • 04フォワードパス中に概念値を設定する介入用コンテキストマネージャー。
  • 05概念間の条件付き分布を扱う確率的グラフィカルモデルAPI。
  • 06HydraとWandBを基盤とするConceptariumによる設定駆動型の実験。

ユースケース

  • 中間予測が人に理解できる概念で表される、画像分類器や表形式データ分類器の構築。
  • 介入によって特定の概念を上書きしたときに、モデルの出力がどう変化するかの検証。
  • 概念ベースのモデルの研究や、設定ファイルを使ったデータセット間のベンチマーク。
  • 確率的グラフィカルモデルを使った、概念とターゲット間の条件付き依存関係のモデル化。

クイックスタート

  1. 1

    data extras付きでPyPIからライブラリをインストールします

    pip install --pre "pytorch-concepts[data]"
  2. 2

    または、data依存関係を含まないコアのみのバージョンをインストールします

    pip install --pre pytorch-concepts

使う前に知っておきたいこと

  • アルファ版ソフトウェアです。公開APIはリリース間で変更される場合があり、安定していない可能性があります。
  • インストールには、プレリリースビルドを指定する--preフラグが必要です。

トピック

#pytorch#interpretability#explainable-ai#concept-based-models#deep-learning#probabilistic-graphical-models#neurosymbolic#ai#concepts#interpretable-machine-learning

よくある質問

pytorch_concepts とは?
PyTorch Lightningを基盤に、アノテーション付きテンソル、介入、確率的グラフィカルモデルを使って、概念ベースの解釈可能な深層学習モデルを構築するライブラリ。 PyC(PyTorch Concepts)は、PyTorchとPyTorch Lightningを基盤とするPythonライブラリです。予測を人が理解できる概念で表現する深層学習モデルを設計できます。入力をそのままターゲットに対応付けるのではなく、概念に名前を付けて計算・学習し、確認や編集ができるようにモデルを構成します。
pytorch_concepts は無料で使えますか?ライセンスは?
pytorch_concepts は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
pytorch_concepts は今もメンテナンスされていますか?
活発にメンテナンス中。pytorch_concepts の最終コミットは 2026年11月4日 です。
pytorch_concepts は何に使えますか?
中間予測が人に理解できる概念で表される、画像分類器や表形式データ分類器の構築。 介入によって特定の概念を上書きしたときに、モデルの出力がどう変化するかの検証。 概念ベースのモデルの研究や、設定ファイルを使ったデータセット間のベンチマーク。 確率的グラフィカルモデルを使った、概念とターゲット間の条件付き依存関係のモデル化。
pytorch_concepts のインストール方法は?
data extras付きでPyPIからライブラリをインストールします: pip install --pre "pytorch-concepts[data]" または、data依存関係を含まないコアのみのバージョンをインストールします: pip install --pre pytorch-concepts
pytorch_concepts はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/pyc-team/pytorch_concepts

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト