Repolode
treeverse

treeverse/dvc

CLI-инструмент и расширение для VS Code, которые помогают версионировать данные и модели вместе с Git и проводить воспроизводимые ML-эксперименты.

Звёзды
15,967
Форки
1,343
Открытые issues
225
Последний коммит
вчера

Что это?

DVC (Data Version Control) помогает разработчикам делать ML-проекты воспроизводимыми. Большие файлы с данными и модели хранятся в облачном или локальном удалённом хранилище, а в Git-репозиторий коммитятся небольшие метафайлы со ссылками на них. Так версии кода и данных остаются синхронизированными.

В DVC можно задавать пайплайны из этапов с зависимостями, командами и результатами. При изменении входных данных повторно запускаются только затронутые этапы. Эксперименты отслеживаются локально, без сервера: их параметры, метрики и графики можно сравнивать, применять или передавать другим, чтобы они могли воспроизвести результаты.

Среди поддерживаемых удалённых хранилищ — S3, Azure, Google Cloud, OSS, SSH и Google Drive; для некоторых из них нужны дополнительные зависимости. Расширение для VS Code предоставляет GUI для отслеживания экспериментов и управления данными. Для его работы основной пакет DVC нужно установить отдельно.

Ключевые возможности

  • 01Версионируйте большие файлы с данными и модели, храня указатели на них в Git.
  • 02Задавайте воспроизводимые пайплайны, которые повторно запускают только затронутые изменениями этапы.
  • 03Отслеживайте, сравнивайте и применяйте эксперименты локально, без сервера.
  • 04Отправляйте данные в удалённые хранилища и скачивайте их оттуда: S3, Azure, Google Cloud, SSH и другие.
  • 05Используйте расширение для VS Code, чтобы отслеживать эксперименты и управлять данными.

Сценарии использования

  • Делитесь большими наборами данных с командой, не добавляя их в Git.
  • Воспроизводите обучение модели коллеги: переключитесь на нужный коммит и скачайте соответствующие данные.
  • Запускайте и сравнивайте множество экспериментов с гиперпараметрами в одном Git-репозитории.
  • Создавайте многоэтапные ML-пайплайны, в которых повторно запускаются только изменившиеся этапы.

Быстрый старт

  1. 1

    Установите DVC с помощью pip

    pip install dvc
  2. 2

    Отслеживайте папку с данными с помощью DVC в репозитории Git

    dvc add images/
  3. 3

    Свяжите код и данные в воспроизводимый этап пайплайна

    dvc stage add -n featurize -d images/ -o features/ python featurize.py
  4. 4

    Запустите эксперимент и сравните результаты

    dvc exp run -n exp-baseline

Что важно знать

  • Для установки дополнительных бэкендов удалённого хранилища, например S3 или Azure, потребуются дополнительные зависимости.
  • Для работы расширения VS Code необходимо отдельно установить основную утилиту DVC.

В подборках

Темы

Частые вопросы

Что такое dvc?
CLI-инструмент и расширение для VS Code, которые помогают версионировать данные и модели вместе с Git и проводить воспроизводимые ML-эксперименты. DVC (Data Version Control) помогает разработчикам делать ML-проекты воспроизводимыми. Большие файлы с данными и модели хранятся в облачном или локальном удалённом хранилище, а в Git-репозиторий коммитятся небольшие метафайлы со ссылками на них. Так версии кода и данных остаются синхронизированными.
dvc можно использовать бесплатно? Какая у него лицензия?
dvc распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
dvc всё ещё поддерживается?
Активно поддерживается. Последний коммит в dvc — 6 нояб. 2026 г..
Для чего можно использовать dvc?
Делитесь большими наборами данных с командой, не добавляя их в Git. Воспроизводите обучение модели коллеги: переключитесь на нужный коммит и скачайте соответствующие данные. Запускайте и сравнивайте множество экспериментов с гиперпараметрами в одном Git-репозитории. Создавайте многоэтапные ML-пайплайны, в которых повторно запускаются только изменившиеся этапы.
Как установить dvc?
Установите DVC с помощью pip: pip install dvc Отслеживайте папку с данными с помощью DVC в репозитории Git: dvc add images/ Свяжите код и данные в воспроизводимый этап пайплайна: dvc stage add -n featurize -d images/ -o features/ python featurize.py Запустите эксперимент и сравните результаты: dvc exp run -n exp-baseline
Где скачать dvc?
Исходный код и инструкции по установке — на GitHub: https://github.com/treeverse/dvc

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Локально размещаемый open-source инструмент для отслеживания ML-экспериментов: логирует запуски и метаданные, позволяет сравнивать их в UI и запрашивать через Python SDK.

6,3 тыс.+4 за неделю414PythonApache-2.0Обновлён 19 часов назад

Open-source платформа для отслеживания и визуализации обучения AI-моделей: метрики, гиперпараметры и статистика оборудования; доступна в облаке или для самостоятельного размещения.

4,4 тыс.+17 за неделю237PythonApache-2.0Активно поддерживаетсяОбновлён позавчера

Python-библиотека и облачная платформа для отслеживания, визуализации и управления экспериментами машинного обучения, датасетами и моделями.

11,3 тыс.+4 за неделю915PythonMITАктивно поддерживаетсяОбновлён 16 часов назад

Открытый MLOps/LLMOps-комплекс для отслеживания экспериментов, версионирования датасетов, управления пайплайнами, оркестрации, планирования и обслуживания моделей.

6,9 тыс.+8 за неделю811PythonApache-2.0Активно поддерживаетсяОбновлён 4 дня назад