Repolode
Data-Centric-AI-Community

Data-Centric-AI-Community/fg-data-profiling

pandasやSparkのDataFrameから、探索的データ分析とデータ品質をまとめたレポートを1行で生成し、HTMLやJSONに出力できるPythonライブラリ。

スター
13,749
フォーク
1,804
未解決の Issue
340
最終コミット
昨日

これは何?

fg-data-profilingは、pandasのdescribe()に似た詳しい分析を、1回の呼び出しでDataFrameに対して実行するPythonパッケージです。型推定、単変量統計と分布、相関、欠損データ、重複行に加え、自己相関や季節性などの時系列特性、テキスト・ファイル・画像の各列を網羅したレポートを生成します。

レポートには、概要、相関の高さ、歪度、定数値、ゼロ値、欠損値など、データ品質に関する潜在的な問題を示すアラート一覧、分析設定を記録する再現用セクションが含まれます。1つのレポートで2つのデータセットを比較することもできます。

分析結果は、単体で使えるHTMLファイルや、自動化されたパイプライン向けのJSONとして出力できるほか、Jupyter Notebook内でウィジェットやiframeとして表示できます。CSVファイルを扱うコマンドラインツールもあり、Spark DataFrameはオプションの追加機能でサポートされています。

主な機能

  • 01pandasのDataFrameから、1行で詳細なプロファイリングレポートを生成。
  • 02型を自動推定し、分布プロット付きの単変量統計を算出。
  • 03相関、欠損データの分析、重複行の検出。
  • 04ACF・PACFプロットや季節性を含む時系列分析。
  • 05歪度や定数値など、データ品質の問題を示すアラート一覧。
  • 06HTML、JSON、Jupyterウィジェット、またはコマンドラインインターフェースで出力。

ユースケース

  • モデリングの前に、初めて扱うデータセットの内容をすばやく把握する。
  • JSON出力を使って、データパイプライン内のデータ品質の問題を確認する。
  • 前処理の前後など、データセットの2つのバージョンを比較する。
  • プロファイリングレポートを単体で使えるHTMLファイルとして関係者に共有する。

クイックスタート

  1. 1

    pipでパッケージをインストールする

    pip install fg-data-profiling
  2. 2

    pandasとProfileReportクラスをインポートし、DataFrameを作成する

  3. 3

    標準のプロファイリングレポートを生成する

    profile = ProfileReport(df, title="Profiling Report")
  4. 4

    レポートをHTMLファイルにエクスポートする

    profile.to_file("your_report.html")

使う前に知っておきたいこと

  • 旧ydata-profilingパッケージはメンテナンスされていないため、既存のユーザーは名称変更後のパッケージに移行し、インポート文も更新する必要があります。
  • Sparkはサポートされていますが、READMEによると、まだ開発途上であり、さらなる貢献が必要です。

収録されている特集

トピック

#data-profiling#data-quality#eda#pandas#data-analysis#jupyter#time-series#big-data-analytics#data-exploration#data-science

よくある質問

fg-data-profiling とは?
pandasやSparkのDataFrameから、探索的データ分析とデータ品質をまとめたレポートを1行で生成し、HTMLやJSONに出力できるPythonライブラリ。 fg-data-profilingは、pandasのdescribe()に似た詳しい分析を、1回の呼び出しでDataFrameに対して実行するPythonパッケージです。型推定、単変量統計と分布、相関、欠損データ、重複行に加え、自己相関や季節性などの時系列特性、テキスト・ファイル・画像の各列を網羅したレポートを生成します。
fg-data-profiling は無料で使えますか?ライセンスは?
fg-data-profiling は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
fg-data-profiling は今もメンテナンスされていますか?
活発にメンテナンス中。fg-data-profiling の最終コミットは 2026年11月5日 です。
fg-data-profiling は何に使えますか?
モデリングの前に、初めて扱うデータセットの内容をすばやく把握する。 JSON出力を使って、データパイプライン内のデータ品質の問題を確認する。 前処理の前後など、データセットの2つのバージョンを比較する。 プロファイリングレポートを単体で使えるHTMLファイルとして関係者に共有する。
fg-data-profiling のインストール方法は?
pipでパッケージをインストールする: pip install fg-data-profiling pandasとProfileReportクラスをインポートし、DataFrameを作成する 標準のプロファイリングレポートを生成する: profile = ProfileReport(df, title="Profiling Report") レポートをHTMLファイルにエクスポートする: profile.to_file("your_report.html")
fg-data-profiling はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/Data-Centric-AI-Community/fg-data-profiling

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト