Repolode
m3dev

m3dev/gokart

Фреймворк на Python поверх luigi для построения ML-пайплайнов с автоматическим кэшированием, воспроизводимостью и управлением зависимостями.

Звёзды
342
Форки
63
Открытые issues
33
Последний коммит
6 дней назад

Что это?

Gokart — это фреймворк на Python для построения ML-пайплайнов в виде цепочек задач. Он оборачивает luigi и ориентирован на воспроизводимость: результаты каждой задачи, её параметры, версии импортированных модулей, seed и логи сохраняются вместе с хешем, а при изменении параметров задача автоматически запускается повторно.

Результаты задач передаются между шагами в виде промежуточных файлов, а не хранятся в памяти. Для хранения можно использовать локальный диск, S3 или GCS; при чтении и записи pandas DataFrame проверяются типы и столбцы. Seed для numpy и random задаются автоматически, а при параллельном запуске задачи можно блокировать с помощью Redis.

Проект предназначен для пакетных ML-задач и командной разработки. Это не система отслеживания экспериментов, и визуализации задач в ней нет; пайплайны описываются на Python, а не в конфигурационных файлах.

Ключевые возможности

  • 01Сохраняет результат каждой задачи, её параметры, версии модулей, seed и логи вместе с хешем.
  • 02Автоматически повторно запускает пайплайн при изменении параметров задачи.
  • 03Хранит промежуточные результаты на локальном диске, в S3 или GCS.
  • 04При чтении и записи проверяет типы и столбцы pandas DataFrame.
  • 05Автоматически задаёт seed для numpy и random.
  • 06Блокирует параллельные задачи с помощью Redis.

Сценарии использования

  • Построение воспроизводимых пайплайнов обучения моделей и предобработки данных.
  • Совместная работа команды над пакетными ML-процессами с единообразными промежуточными результатами.
  • Запуск многоэтапных задач обработки данных с хранением больших промежуточных результатов в S3 или GCS.

Быстрый старт

  1. 1

    Установите gokart с помощью pip

    pip install gokart
  2. 2

    При необходимости установите поддержку S3

    pip install gokart[s3]
  3. 3

    Запустите минимальный пример как скрипт Python

Что важно знать

  • Для блокировки задач при параллельном выполнении требуется Redis.
  • Согласно README, gokart не является инструментом управления экспериментами и не поддерживает визуализацию задач.

Темы

Частые вопросы

Что такое gokart?
Фреймворк на Python поверх luigi для построения ML-пайплайнов с автоматическим кэшированием, воспроизводимостью и управлением зависимостями. Gokart — это фреймворк на Python для построения ML-пайплайнов в виде цепочек задач. Он оборачивает luigi и ориентирован на воспроизводимость: результаты каждой задачи, её параметры, версии импортированных модулей, seed и логи сохраняются вместе с хешем, а при изменении параметров задача автоматически запускается повторно.
gokart можно использовать бесплатно? Какая у него лицензия?
gokart распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
gokart всё ещё поддерживается?
Активно поддерживается. Последний коммит в gokart — 1 нояб. 2026 г..
Для чего можно использовать gokart?
Построение воспроизводимых пайплайнов обучения моделей и предобработки данных. Совместная работа команды над пакетными ML-процессами с единообразными промежуточными результатами. Запуск многоэтапных задач обработки данных с хранением больших промежуточных результатов в S3 или GCS.
Как установить gokart?
Установите gokart с помощью pip: pip install gokart При необходимости установите поддержку S3: pip install gokart[s3] Запустите минимальный пример как скрипт Python
Где скачать gokart?
Исходный код и инструкции по установке — на GitHub: https://github.com/m3dev/gokart

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

CGraph — не требующий сторонних зависимостей C++11-фреймворк для построения и выполнения параллельных графов задач с Python-привязкой pycgraph.

2,3 тыс.392C++MITАктивно поддерживаетсяОбновлён 4 дня назад

Кроссплатформенный фреймворк и готовые ML-решения для запуска моделей компьютерного зрения, аудио и текста на мобильных устройствах, в вебе, на десктопе и IoT.

37,6 тыс.+114 за неделю6,2 тыс.C++Apache-2.0Активно поддерживаетсяОбновлён 15 часов назад