Repolode
apache

apache/airflow

Apache Airflow — платформа для программного описания, планирования и мониторинга рабочих процессов в виде Python-кода (Dags).

Звёзды
47,223
Форки
18,089
Открытые issues
1,877
Последний коммит
5 часов назад

Что это?

Apache Airflow позволяет описывать рабочие процессы в виде кода. Каждый рабочий процесс — это Dag, состоящий из задач и зависимостей между ними; планировщик запускает задачи на наборе воркеров в соответствии с этими зависимостями. Поскольку пайплайны представляют собой обычный Python-код, их можно генерировать динамически, параметризовать с помощью шаблонов Jinja, хранить в системе контроля версий и покрывать тестами.

В проекте есть веб-интерфейс для просмотра всех Dags и статусов их запусков, временная сетка, граф зависимостей для конкретного запуска, повторные запуски за заданные диапазоны дат и исходный код каждого Dag. Для управления Dags предусмотрены утилиты командной строки. Airflow можно установить из PyPI или запустить из Docker-образа; он поддерживает Kubernetes и различные базы данных.

Airflow предназначен для пакетных, преимущественно статичных пайплайнов, а не для настоящей потоковой обработки. Его широко используют для задач ETL и ELT, а также для оркестрации этапов пайплайнов машинного обучения и LLM — например, подготовки данных, вызова моделей и оценки результатов. Предполагается, что задачи идемпотентны; большие объёмы данных лучше обрабатывать внешними сервисами.

Ключевые возможности

  • 01Описывайте рабочие процессы на Python, используя динамическую генерацию Dag и шаблоны Jinja.
  • 02Планировщик запускает задачи на наборе воркеров с учётом зависимостей.
  • 03Веб-интерфейс с представлениями в виде сетки, графа и ресурсов, отображением статусов запусков и поддержкой повторных запусков.
  • 04Встроенные операторы с возможностью расширения с помощью дистрибутивов провайдеров.
  • 05Утилиты командной строки для управления Dags и выполнения операций.
  • 06Установка через pip или Docker-образы, поддержка Kubernetes.

Сценарии использования

  • Планирование и мониторинг ночных пайплайнов ETL или ELT.
  • Оркестрация этапов обучения, оценки и развёртывания моделей машинного обучения.
  • Координация этапов пайплайна LLM или AI, например подготовки данных и вызовов моделей.

Быстрый старт

  1. 1

    Установите пакет apache-airflow из PyPI, следуя инструкциям в разделе «Installing from PyPI» файла README

  2. 2

    Следуйте официальному руководству для начинающих, чтобы запустить Airflow

Что важно знать

  • Windows не поддерживается нативно; используйте WSL2 или контейнеры Linux.
  • SQLite предназначен только для тестирования и не должен использоваться в production.
  • Установка из PyPI может быть непростой из-за особенностей управления зависимостями.

Темы

Частые вопросы

Что такое airflow?
Apache Airflow — платформа для программного описания, планирования и мониторинга рабочих процессов в виде Python-кода (Dags). Apache Airflow позволяет описывать рабочие процессы в виде кода. Каждый рабочий процесс — это Dag, состоящий из задач и зависимостей между ними; планировщик запускает задачи на наборе воркеров в соответствии с этими зависимостями. Поскольку пайплайны представляют собой обычный Python-код, их можно генерировать динамически, параметризовать с помощью шаблонов Jinja, хранить в системе контроля версий и покрывать тестами.
airflow можно использовать бесплатно? Какая у него лицензия?
airflow распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
airflow всё ещё поддерживается?
Активно поддерживается. Последний коммит в airflow — 20 окт. 2026 г..
Для чего можно использовать airflow?
Планирование и мониторинг ночных пайплайнов ETL или ELT. Оркестрация этапов обучения, оценки и развёртывания моделей машинного обучения. Координация этапов пайплайна LLM или AI, например подготовки данных и вызовов моделей.
Как установить airflow?
Установите пакет apache-airflow из PyPI, следуя инструкциям в разделе «Installing from PyPI» файла README Следуйте официальному руководству для начинающих, чтобы запустить Airflow
Где скачать airflow?
Исходный код и инструкции по установке — на GitHub: https://github.com/apache/airflow

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Бесплатный онлайн-курс по MLOps на 9 недель для самостоятельного изучения: трекинг экспериментов, оркестрация, деплой, мониторинг и лучшие практики.

15,5 тыс.3,1 тыс.Jupyter NotebookБез лицензииОбновлён 5 дней назад