Repolode
投稿する
microsoft

microsoft/responsible-ai-toolbox

MLモデルのエラーパターン、公平性、解釈可能性、因果効果の評価とデバッグに使える、PythonライブラリとWeb UIのツール群です。

GitHub で見る公式サイト
スター
1,852
フォーク
507
未解決の Issue
92
最終コミット
20 時間前

これは何？

Responsible AI Toolboxは、機械学習モデルとそのデータを調べるための可視化ダッシュボードとPythonライブラリのコレクションです。中心となるResponsible AI dashboardは、エラー分析、公平性評価、モデルの解釈可能性、反実仮想分析、因果分析、データバランスのビューを、Jupyter notebookで使える単一のインターフェースにまとめています。

各コンポーネントは、実績のあるオープンソースプロジェクトを基盤としています。Error Analysisはモデルの性能が低いデータコホートを特定し、Fairlearnはグループ公平性の指標を評価します。InterpretMLはモデルの予測を説明し、DiCEは反実仮想を生成し、EconMLは因果関係に関するwhat-ifの問いに対応します。ダッシュボードはraiwidgetsパッケージとしてpipでインストールでき、numpy、pandas、scipyの疎データで学習したモデルに加え、PyTorch、TensorFlow、Kerasのモデルも扱えます。

このリポジトリには、別プロジェクトとして提供されている関連エコシステムも含まれます。コホートごとの対策に使うmitigationsライブラリ、MLflowと連携する実験トラッカーのJupyterLab拡張機能、NLPコーパスの性別バイアスを測定するライブラリなどがあります。

主な機能

  • 01エラー分析、公平性、解釈可能性、反実仮想、因果分析を1つのダッシュボードに集約します。
  • 02モデルのエラー率が全体のエラー率を上回るデータコホートを特定します。
  • 03センシティブ属性ごとのグループ公平性指標を算出します。
  • 04InterpretMLを使って、全体および個々の予測を説明します。
  • 05raiwidgetsとしてpipでインストールでき、Jupyter notebookで動作します。
  • 06scikit-learn形式のAPI、PyTorch、TensorFlow、Kerasで構築したモデルに対応します。

ユースケース

  • 分類器をデプロイする前に、性能が低いサブグループを見つける。
  • モデルが人口統計上のグループを不平等に扱っていないか確認する。
  • AIシステムを評価する関係者に、個々の予測の根拠を説明する。
  • 入力の変更やビジネス上の施策が結果に与える影響を推定する。

クイックスタート

  1. 1

    PyPIからPythonパッケージをインストールする

    pip install raiwidgets
  2. 2

    リポジトリのexamplesからgetting-startedノートブックを開く

使う前に知っておきたいこと

  • READMEのメインのクイックスタートはJupyterノートブックを対象としており、インストール後にカーネルを再起動する必要があります。
  • プロジェクトは3つのリポジトリに分かれているため、関連ツールはこのリポジトリの外にあります。

収録されている特集

データサイエンスの教材とツール

トピック

#responsible-ai#explainable-ai#fairness#model-debugging#machine-learning#jupyter#interpretability#causal-inference#data-analysis#data-science

よくある質問

responsible-ai-toolbox とは？
MLモデルのエラーパターン、公平性、解釈可能性、因果効果の評価とデバッグに使える、PythonライブラリとWeb UIのツール群です。 Responsible AI Toolboxは、機械学習モデルとそのデータを調べるための可視化ダッシュボードとPythonライブラリのコレクションです。中心となるResponsible AI dashboardは、エラー分析、公平性評価、モデルの解釈可能性、反実仮想分析、因果分析、データバランスのビューを、Jupyter notebookで使える単一のインターフェースにまとめています。
responsible-ai-toolbox は無料で使えますか？ライセンスは？
responsible-ai-toolbox は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
responsible-ai-toolbox は今もメンテナンスされていますか？
活発にメンテナンス中。responsible-ai-toolbox の最終コミットは 2026年11月7日 です。
responsible-ai-toolbox は何に使えますか？
分類器をデプロイする前に、性能が低いサブグループを見つける。 モデルが人口統計上のグループを不平等に扱っていないか確認する。 AIシステムを評価する関係者に、個々の予測の根拠を説明する。 入力の変更やビジネス上の施策が結果に与える影響を推定する。
responsible-ai-toolbox のインストール方法は？
PyPIからPythonパッケージをインストールする: pip install raiwidgets リポジトリのexamplesからgetting-startedノートブックを開く
responsible-ai-toolbox はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/microsoft/responsible-ai-toolbox

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト