pandas、polars、pyarrowのDataFrameを、Jupyter上で操作できるドラッグ&ドロップ式のビジュアル分析UIに変換するPythonライブラリです。
Data-Centric-AI-Community/fg-data-profiling
pandasやSparkのDataFrameから、探索的データ分析とデータ品質をまとめたレポートを1行で生成し、HTMLやJSONに出力できるPythonライブラリ。
- スター
- 13,749
- フォーク
- 1,804
- 未解決の Issue
- 340
- 最終コミット
- 昨日
これは何?
fg-data-profilingは、pandasのdescribe()に似た詳しい分析を、1回の呼び出しでDataFrameに対して実行するPythonパッケージです。型推定、単変量統計と分布、相関、欠損データ、重複行に加え、自己相関や季節性などの時系列特性、テキスト・ファイル・画像の各列を網羅したレポートを生成します。
レポートには、概要、相関の高さ、歪度、定数値、ゼロ値、欠損値など、データ品質に関する潜在的な問題を示すアラート一覧、分析設定を記録する再現用セクションが含まれます。1つのレポートで2つのデータセットを比較することもできます。
分析結果は、単体で使えるHTMLファイルや、自動化されたパイプライン向けのJSONとして出力できるほか、Jupyter Notebook内でウィジェットやiframeとして表示できます。CSVファイルを扱うコマンドラインツールもあり、Spark DataFrameはオプションの追加機能でサポートされています。
主な機能
- 01pandasのDataFrameから、1行で詳細なプロファイリングレポートを生成。
- 02型を自動推定し、分布プロット付きの単変量統計を算出。
- 03相関、欠損データの分析、重複行の検出。
- 04ACF・PACFプロットや季節性を含む時系列分析。
- 05歪度や定数値など、データ品質の問題を示すアラート一覧。
- 06HTML、JSON、Jupyterウィジェット、またはコマンドラインインターフェースで出力。
ユースケース
- モデリングの前に、初めて扱うデータセットの内容をすばやく把握する。
- JSON出力を使って、データパイプライン内のデータ品質の問題を確認する。
- 前処理の前後など、データセットの2つのバージョンを比較する。
- プロファイリングレポートを単体で使えるHTMLファイルとして関係者に共有する。
クイックスタート
- 1
pipでパッケージをインストールする
pip install fg-data-profiling - 2
pandasとProfileReportクラスをインポートし、DataFrameを作成する
- 3
標準のプロファイリングレポートを生成する
profile = ProfileReport(df, title="Profiling Report") - 4
レポートをHTMLファイルにエクスポートする
profile.to_file("your_report.html")
使う前に知っておきたいこと
- 旧ydata-profilingパッケージはメンテナンスされていないため、既存のユーザーは名称変更後のパッケージに移行し、インポート文も更新する必要があります。
- Sparkはサポートされていますが、READMEによると、まだ開発途上であり、さらなる貢献が必要です。
収録されている特集
トピック
よくある質問
- fg-data-profiling とは?
- pandasやSparkのDataFrameから、探索的データ分析とデータ品質をまとめたレポートを1行で生成し、HTMLやJSONに出力できるPythonライブラリ。 fg-data-profilingは、pandasのdescribe()に似た詳しい分析を、1回の呼び出しでDataFrameに対して実行するPythonパッケージです。型推定、単変量統計と分布、相関、欠損データ、重複行に加え、自己相関や季節性などの時系列特性、テキスト・ファイル・画像の各列を網羅したレポートを生成します。
- fg-data-profiling は無料で使えますか?ライセンスは?
- fg-data-profiling は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- fg-data-profiling は今もメンテナンスされていますか?
- 活発にメンテナンス中。fg-data-profiling の最終コミットは 2026年11月5日 です。
- fg-data-profiling は何に使えますか?
- モデリングの前に、初めて扱うデータセットの内容をすばやく把握する。 JSON出力を使って、データパイプライン内のデータ品質の問題を確認する。 前処理の前後など、データセットの2つのバージョンを比較する。 プロファイリングレポートを単体で使えるHTMLファイルとして関係者に共有する。
- fg-data-profiling のインストール方法は?
- pipでパッケージをインストールする: pip install fg-data-profiling pandasとProfileReportクラスをインポートし、DataFrameを作成する 標準のプロファイリングレポートを生成する: profile = ProfileReport(df, title="Profiling Report") レポートをHTMLファイルにエクスポートする: profile.to_file("your_report.html")
- fg-data-profiling はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/Data-Centric-AI-Community/fg-data-profiling
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
データ品質を検証するPythonライブラリ。データに対する宣言的なExpectationをユニットテストとして記述し、検証レポートを生成できます。
NumPyとpandasのベクトル化処理で、複数の資産や時間足にわたる何千もの戦略案をバックテストできる、トレーディング研究向けPythonツールキット。
Pythonが動く環境ならどこでも実行できる、テスト可能で自己文書化されたDAGとしてデータ変換を定義する軽量なPythonライブラリ。
Microsoftによる、Python、クイズ、プロジェクトを通じてデータサイエンスの基礎を学ぶ、10週間・全20レッスンの初心者向けカリキュラム。
ライブラリ、チュートリアル、書籍、データセット、講演など、データサイエンス向けPythonリソースを集めたAwesome形式の厳選リストです。