Singer tap・targetを使い、Hub経由で600以上のAPIやデータベースと連携するELTパイプラインを構築できる、宣言型のコードファーストなデータ統合エンジン。
dagster-io/dagster
テーブル、データセット、MLモデル、レポートなどのデータアセットを定義・実行・監視するPythonオーケストレーションプラットフォーム。
代替できる製品:Apache Airflow
- スター
- 16,311
- フォーク
- 2,366
- 未解決の Issue
- 2,604
- 最終コミット
- 13 時間前
これは何?
Dagsterでは、構築したいデータアセットをPython関数として宣言すると、適切なタイミングで実行し、最新の状態に保つことができます。アセットはグラフとしてつながっており、依存関係、リネージ、実行履歴をWeb UIで確認できます。
ローカル開発やユニットテストから、統合テスト、ステージング、本番環境まで、開発ライフサイクル全体での利用を想定して設計されています。スケジューリング、マルチテナント実行、組み込みのオブザーバビリティとカタログ機能に加え、一般的なデータツールとの連携ライブラリも拡充されています。
Python 3.9〜3.14に対応しており、dagsterおよびdagster-webserverパッケージを使ってPyPIからインストールできます。
主な機能
- 01宣言的なモデルを使い、データアセットをPython関数として定義できます。
- 02Web UIでアセットの依存関係とリネージを可視化できます。
- 03アセットをスケジュール実行し、最新の状態に保てます。
- 04オブザーバビリティ、診断、メタデータのカタログ機能を標準で備えています。
- 05本番環境へのデプロイに対応したマルチテナントのオーケストレーションエンジンです。
- 06人気のデータツールとの連携ライブラリを継続的に拡充しています。
ユースケース
- データウェアハウスのテーブルを生成するETLまたはELTパイプラインの構築。
- 機械学習のトレーニングやモデルパイプラインのオーケストレーション。
- 常に最新の状態に保つ必要があるレポートやデータセットの管理。
- 本番環境への展開前に、ローカルやCIでデータパイプラインをテスト。
クイックスタート
- 1
uvでDagster、ウェブサーバー、CLIをインストールする
uv add dagster dagster-webserver dagster-dg-cli - 2
ドキュメントのハンズオンチュートリアルに沿って、最初のパイプラインを構築する
トピック
よくある質問
- dagster とは?
- テーブル、データセット、MLモデル、レポートなどのデータアセットを定義・実行・監視するPythonオーケストレーションプラットフォーム。 Dagsterでは、構築したいデータアセットをPython関数として宣言すると、適切なタイミングで実行し、最新の状態に保つことができます。アセットはグラフとしてつながっており、依存関係、リネージ、実行履歴をWeb UIで確認できます。
- dagster は無料で使えますか?ライセンスは?
- dagster は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- dagster は今もメンテナンスされていますか?
- 活発にメンテナンス中。dagster の最終コミットは 2026年10月21日 です。
- dagster は何に使えますか?
- データウェアハウスのテーブルを生成するETLまたはELTパイプラインの構築。 機械学習のトレーニングやモデルパイプラインのオーケストレーション。 常に最新の状態に保つ必要があるレポートやデータセットの管理。 本番環境への展開前に、ローカルやCIでデータパイプラインをテスト。
- dagster のインストール方法は?
- uvでDagster、ウェブサーバー、CLIをインストールする: uv add dagster dagster-webserver dagster-dg-cli ドキュメントのハンズオンチュートリアルに沿って、最初のパイプラインを構築する
- dagster はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/dagster-io/dagster
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
Apache Airflowは、Pythonコードで定義したワークフロー(DAG)の作成、スケジュール設定、監視をプログラムから行うためのプラットフォームです。
スクリプトをスケジュール実行、リトライ、キャッシュ、イベントベースの自動化に対応した本番データパイプラインへ変換する、Python製ワークフローオーケストレーションフレームワーク。
YAMLで定義したデータ、AI、インフラのワークフローをスケジュール実行・起動できる、オープンソースのイベント駆動型オーケストレーションプラットフォーム。
Rustエンジンを基盤とし、ストリーム処理、リアルタイム分析、LLMパイプライン、RAGに対応するPython ETLフレームワーク。
Pythonが動く環境ならどこでも実行できる、テスト可能で自己文書化されたDAGとしてデータ変換を定義する軽量なPythonライブラリ。