声明式、代码优先的数据集成引擎,基于 Singer 的 tap 与 target 构建 ELT 数据管道。
2667274PythonMIT更新于 昨天
Dagster 让你用 Python 函数声明想要构建的数据资产,并负责在合适的时间运行它们、保持资产处于最新状态。资产之间会形成依赖图,依赖关系、血缘和运行历史都可以在 Web UI 中查看。
项目面向数据开发的完整生命周期,从本地开发、单元测试,到集成测试、预发布和生产环境都可以使用。它提供调度、多租户执行、内置的可观测性与资产目录,并持续扩充与常见数据工具的集成。
支持 Python 3.9 至 3.14,可通过 PyPI 安装 dagster 与 dagster-webserver 等包。
使用 uv 安装 Dagster、Web 服务器和 CLI
uv add dagster dagster-webserver dagster-dg-cli按照文档中的实践教程构建你的第一个管道
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
声明式、代码优先的数据集成引擎,基于 Singer 的 tap 与 target 构建 ELT 数据管道。
Apache Airflow 是一个用代码编写、调度和监控工作流的平台,工作流以 Python 定义为 Dag。
Python 工作流编排框架,可将脚本升级为带调度、重试、缓存和事件自动化的生产级数据管道。
开源的事件驱动编排平台,用 YAML 定义并调度数据、AI 与基础设施工作流。
基于 Rust 引擎的 Python ETL 框架,用于流处理、实时分析、LLM 管道和 RAG。
一个分布式、低代码的数据编排平台,用于构建、调度和监控复杂的数据管道工作流。