Apache Supersetは、データ探索やチャート・ダッシュボードの作成、各種データベースへのSQL実行に使えるセルフサービス型BI Webアプリです。
apache/airflow
Apache Airflowは、Pythonコードで定義したワークフロー(DAG)の作成、スケジュール設定、監視をプログラムから行うためのプラットフォームです。
- スター
- 47,223
- フォーク
- 18,089
- 未解決の Issue
- 1,877
- 最終コミット
- 9 時間前
これは何?
Apache Airflowでは、ワークフローをコードとして定義できます。各ワークフローは、依存関係を持つタスクで構成されたDAGです。スケジューラーは依存関係に従って、複数のワーカー上でタスクを実行します。パイプラインは通常のPythonコードなので、動的に生成したり、Jinjaテンプレートでパラメーター化したりでき、バージョン管理やテストも行えます。
プロジェクトには、すべてのDAGと実行状況、時系列のグリッド表示、特定の実行における依存関係グラフ、日付範囲を指定したバックフィル、各DAGのソースコードを確認できるWeb UIが用意されています。DAGの操作にはコマンドラインユーティリティを利用できます。AirflowはPyPIまたはDockerイメージからインストールでき、Kubernetesや各種データベースに対応しています。
Airflowは、真のストリーミング処理ではなく、主に静的なバッチ型パイプラインを対象としています。ETLやELTのジョブのほか、データ準備、モデルの呼び出し、評価など、機械学習やLLMのパイプラインの各ステップをオーケストレーションする用途でも広く使われています。タスクには冪等性が求められ、大量のデータは外部サービスで扱うのが適しています。
主な機能
- 01Pythonコードでワークフローを定義でき、DAGの動的生成やJinjaテンプレートに対応。
- 02依存関係を守りながら、複数のワーカー上でタスクを実行するスケジューラー。
- 03グリッド、グラフ、アセットの各ビューに加え、実行状況の確認やバックフィルに対応したWeb UI。
- 04組み込みのオペレーターを備え、プロバイダーディストリビューションで拡張可能。
- 05DAGの管理や運用に使えるコマンドラインユーティリティ。
- 06pipまたはDockerイメージからインストールでき、Kubernetesに対応。
ユースケース
- 夜間のETLまたはELTデータパイプラインのスケジュール設定と監視。
- 機械学習のトレーニング、評価、デプロイの各ステップのオーケストレーション。
- データ準備やモデル呼び出しなど、LLMまたはAIパイプラインの各ステップの連携。
クイックスタート
- 1
README の「Installing from PyPI」セクションの説明に従って、PyPI から apache-airflow パッケージをインストールします
- 2
公式のスタートガイドに従って Airflow を実行します
使う前に知っておきたいこと
- Windows はネイティブではサポートされていません。WSL2 または Linux コンテナを使用してください。
- SQLite はテスト専用です。本番環境では使用しないでください。
- 依存関係の処理が複雑なため、PyPI からのインストールには注意が必要です。
トピック
よくある質問
- airflow とは?
- Apache Airflowは、Pythonコードで定義したワークフロー(DAG)の作成、スケジュール設定、監視をプログラムから行うためのプラットフォームです。 Apache Airflowでは、ワークフローをコードとして定義できます。各ワークフローは、依存関係を持つタスクで構成されたDAGです。スケジューラーは依存関係に従って、複数のワーカー上でタスクを実行します。パイプラインは通常のPythonコードなので、動的に生成したり、Jinjaテンプレートでパラメーター化したりでき、バージョン管理やテストも行えます。
- airflow は無料で使えますか?ライセンスは?
- airflow は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- airflow は今もメンテナンスされていますか?
- 活発にメンテナンス中。airflow の最終コミットは 2026年10月20日 です。
- airflow は何に使えますか?
- 夜間のETLまたはELTデータパイプラインのスケジュール設定と監視。 機械学習のトレーニング、評価、デプロイの各ステップのオーケストレーション。 データ準備やモデル呼び出しなど、LLMまたはAIパイプラインの各ステップの連携。
- airflow のインストール方法は?
- README の「Installing from PyPI」セクションの説明に従って、PyPI から apache-airflow パッケージをインストールします 公式のスタートガイドに従って Airflow を実行します
- airflow はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/apache/airflow
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
既存ソフトウェア向けのエージェント対応CLIを生成し、完成済みCLIを導入できるCLI-Hubも備えたツールキット。
永続実行、human-in-the-loop、メモリを備えた、状態を保持する長時間稼働エージェントを構築するための低レベルPythonフレームワーク。
実験追跡、オーケストレーション、デプロイ、モニタリング、ベストプラクティスを学ぶ、無料で自分のペースで進められる9週間のオンラインコース。
逐次・並列・グラフ・階層型のワークフローでマルチエージェントシステムを構築・連携するPythonフレームワーク。
Windows、macOS、LinuxでLogitech HID++マウスのボタンを割り当て直し、操作をカスタマイズできる、完全ローカル動作の無料Logitech Options+代替ソフト。