Python-библиотека Hugging Face для загрузки публичных AI-датасетов с Hub одной строкой и эффективной предобработки с помощью инструментов на базе Arrow.
mlcommons/croissant
Формат метаданных высокого уровня для наборов данных машинного обучения на основе schema.org JSON-LD: описывает файлы, структуру и семантику ML в одном файле.
- Звёзды
- 915
- Форки
- 128
- Открытые issues
- 226
- Последний коммит
- 17 дней назад
Что это?
Croissant — формат метаданных для наборов данных машинного обучения. Он объединяет в одном JSON-LD-файле четыре уровня: метаданные набора данных, включая сведения об ответственном использовании ML; описания файлов ресурсов; структуру, которая организует исходные данные в записи и поля; и семантику ML, описывающую типичное использование данных. Формат рассчитан на работу с существующими наборами данных, а не на их замену, чтобы их было проще находить, загружать и поддерживать с помощью инструментов.
Формат расширяет словарь Dataset из schema.org, благодаря чему файлы Croissant могут индексироваться поисковыми системами. Пакет Python mlcroissant умеет читать файл Croissant по локальному пути или URL, выводить его метаданные и перебирать записи. Метаданные Croissant уже публикуют несколько платформ, включая Kaggle, Hugging Face, OpenML и Dataverse, а TensorFlow Datasets включает CroissantBuilder для их загрузки.
Спецификацию разрабатывает целевая группа Рабочей группы по наборам данных ассоциации MLCommons. Реализация и примеры распространяются по лицензии Apache 2.0, а спецификация опубликована по лицензии CC BY-ND 4.0.
Ключевые возможности
- 01Объединяет метаданные, файлы ресурсов, структуру записей и семантику ML в одном JSON-LD-файле.
- 02Использует словарь Dataset из schema.org, чтобы наборы данных можно было находить в интернете.
- 03Предоставляет пакет Python mlcroissant для загрузки и изучения наборов данных Croissant.
- 04Поддерживает загрузку из локальных файлов и удалённых URL, включая API-эндпоинты Hugging Face.
- 05Включает интеграцию CroissantBuilder для TensorFlow Datasets.
Сценарии использования
- Публикация набора данных для машинного обучения со стандартными машиночитаемыми метаданными.
- Загрузка набора данных, описанного файлом Croissant, в конвейер TensorFlow или PyTorch.
- Повышение доступности наборов данных для поиска через поисковые системы и каталоги наборов данных.
- Создание инструментов для разбора и генерации метаданных наборов данных в едином формате.
Быстрый старт
- 1
Установите пакет Python mlcroissant (требуется Python 3.10 или новее).
pip install mlcroissant - 2
Загрузите пример набора данных и выведите его метаданные и записи.
Что важно знать
- Croissant разрабатывается сообществом, поэтому API mlcroissant может измениться.
- Загрузка некоторых наборов данных в примере рабочего процесса зависит от TensorFlow Datasets — дополнительной зависимости.
Темы
Частые вопросы
- Что такое croissant?
- Формат метаданных высокого уровня для наборов данных машинного обучения на основе schema.org JSON-LD: описывает файлы, структуру и семантику ML в одном файле. Croissant — формат метаданных для наборов данных машинного обучения. Он объединяет в одном JSON-LD-файле четыре уровня: метаданные набора данных, включая сведения об ответственном использовании ML; описания файлов ресурсов; структуру, которая организует исходные данные в записи и поля; и семантику ML, описывающую типичное использование данных. Формат рассчитан на работу с существующими наборами данных, а не на их замену, чтобы их было проще находить, загружать и поддерживать с помощью инструментов.
- croissant можно использовать бесплатно? Какая у него лицензия?
- croissant распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- croissant всё ещё поддерживается?
- Активно поддерживается. Последний коммит в croissant — 5 окт. 2026 г..
- Для чего можно использовать croissant?
- Публикация набора данных для машинного обучения со стандартными машиночитаемыми метаданными. Загрузка набора данных, описанного файлом Croissant, в конвейер TensorFlow или PyTorch. Повышение доступности наборов данных для поиска через поисковые системы и каталоги наборов данных. Создание инструментов для разбора и генерации метаданных наборов данных в едином формате.
- Как установить croissant?
- Установите пакет Python mlcroissant (требуется Python 3.10 или новее).: pip install mlcroissant Загрузите пример набора данных и выведите его метаданные и записи.
- Где скачать croissant?
- Исходный код и инструкции по установке — на GitHub: https://github.com/mlcommons/croissant
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Подборка качественных открытых датасетов по темам: от сельского хозяйства и биологии до климата и компьютерных сетей.
Компактное, удобное для чтения представление данных JSON, которое сокращает расход токенов при передаче структурированных данных в промпты LLM.
Эталонная реализация NLWeb на Python — протокола и набора инструментов для добавления на сайты разговорных интерфейсов на естественном языке с поддержкой клиентов MCP.
CLI и Python-инструментарий с открытым исходным кодом: оценивает готовность сайта к ответам ИИ по шкале 0–100 и предлагает улучшения для цитирования в ChatGPT, Perplexity, Gemini и Google AI Overviews.
Платформа оркестрации на Python для описания, запуска и мониторинга данных: таблиц, датасетов, ML-моделей и отчётов.