Apache Superset — веб-приложение для self-service бизнес-аналитики: исследуйте данные, создавайте графики и дашборды, выполняйте SQL-запросы к разным базам данных.
apache/airflow
Apache Airflow — платформа для программного описания, планирования и мониторинга рабочих процессов в виде Python-кода (Dags).
- Звёзды
- 47,223
- Форки
- 18,089
- Открытые issues
- 1,877
- Последний коммит
- 5 часов назад
Что это?
Apache Airflow позволяет описывать рабочие процессы в виде кода. Каждый рабочий процесс — это Dag, состоящий из задач и зависимостей между ними; планировщик запускает задачи на наборе воркеров в соответствии с этими зависимостями. Поскольку пайплайны представляют собой обычный Python-код, их можно генерировать динамически, параметризовать с помощью шаблонов Jinja, хранить в системе контроля версий и покрывать тестами.
В проекте есть веб-интерфейс для просмотра всех Dags и статусов их запусков, временная сетка, граф зависимостей для конкретного запуска, повторные запуски за заданные диапазоны дат и исходный код каждого Dag. Для управления Dags предусмотрены утилиты командной строки. Airflow можно установить из PyPI или запустить из Docker-образа; он поддерживает Kubernetes и различные базы данных.
Airflow предназначен для пакетных, преимущественно статичных пайплайнов, а не для настоящей потоковой обработки. Его широко используют для задач ETL и ELT, а также для оркестрации этапов пайплайнов машинного обучения и LLM — например, подготовки данных, вызова моделей и оценки результатов. Предполагается, что задачи идемпотентны; большие объёмы данных лучше обрабатывать внешними сервисами.
Ключевые возможности
- 01Описывайте рабочие процессы на Python, используя динамическую генерацию Dag и шаблоны Jinja.
- 02Планировщик запускает задачи на наборе воркеров с учётом зависимостей.
- 03Веб-интерфейс с представлениями в виде сетки, графа и ресурсов, отображением статусов запусков и поддержкой повторных запусков.
- 04Встроенные операторы с возможностью расширения с помощью дистрибутивов провайдеров.
- 05Утилиты командной строки для управления Dags и выполнения операций.
- 06Установка через pip или Docker-образы, поддержка Kubernetes.
Сценарии использования
- Планирование и мониторинг ночных пайплайнов ETL или ELT.
- Оркестрация этапов обучения, оценки и развёртывания моделей машинного обучения.
- Координация этапов пайплайна LLM или AI, например подготовки данных и вызовов моделей.
Быстрый старт
- 1
Установите пакет apache-airflow из PyPI, следуя инструкциям в разделе «Installing from PyPI» файла README
- 2
Следуйте официальному руководству для начинающих, чтобы запустить Airflow
Что важно знать
- Windows не поддерживается нативно; используйте WSL2 или контейнеры Linux.
- SQLite предназначен только для тестирования и не должен использоваться в production.
- Установка из PyPI может быть непростой из-за особенностей управления зависимостями.
Темы
Частые вопросы
- Что такое airflow?
- Apache Airflow — платформа для программного описания, планирования и мониторинга рабочих процессов в виде Python-кода (Dags). Apache Airflow позволяет описывать рабочие процессы в виде кода. Каждый рабочий процесс — это Dag, состоящий из задач и зависимостей между ними; планировщик запускает задачи на наборе воркеров в соответствии с этими зависимостями. Поскольку пайплайны представляют собой обычный Python-код, их можно генерировать динамически, параметризовать с помощью шаблонов Jinja, хранить в системе контроля версий и покрывать тестами.
- airflow можно использовать бесплатно? Какая у него лицензия?
- airflow распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- airflow всё ещё поддерживается?
- Активно поддерживается. Последний коммит в airflow — 20 окт. 2026 г..
- Для чего можно использовать airflow?
- Планирование и мониторинг ночных пайплайнов ETL или ELT. Оркестрация этапов обучения, оценки и развёртывания моделей машинного обучения. Координация этапов пайплайна LLM или AI, например подготовки данных и вызовов моделей.
- Как установить airflow?
- Установите пакет apache-airflow из PyPI, следуя инструкциям в разделе «Installing from PyPI» файла README Следуйте официальному руководству для начинающих, чтобы запустить Airflow
- Где скачать airflow?
- Исходный код и инструкции по установке — на GitHub: https://github.com/apache/airflow
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Набор инструментов для создания CLI, которыми AI-агенты могут управлять существующим ПО, и CLI-Hub для установки готовых решений.
Низкоуровневый Python-фреймворк для создания долгоживущих агентов с состоянием, устойчивым выполнением, участием человека и памятью.
Бесплатный онлайн-курс по MLOps на 9 недель для самостоятельного изучения: трекинг экспериментов, оркестрация, деплой, мониторинг и лучшие практики.
Python-фреймворк для создания и оркестрации мультиагентных систем с последовательными, параллельными, графовыми и иерархическими сценариями работы.
Бесплатная полностью локальная альтернатива Logitech Options+ для переназначения кнопок и управления мышами Logitech HID++ в Windows, macOS и Linux.