Repolode
Предложить
protectai

protectai/modelscan

Сканер обнаруживает небезопасный код в файлах ML-моделей до их загрузки и защищает от атак через сериализацию моделей.

Открыть на GitHubСайт
Звёзды
793
Форки
174
Открытые issues
105
Последний коммит
в прошлом месяце

Что это?

ModelScan проверяет файлы моделей машинного обучения на наличие небезопасного кода, встроенного при сериализации. Загрузка вредоносной модели на основе pickle может немедленно выполнить код злоумышленника и привести к краже учётных данных или данных либо к подмене результатов модели. ModelScan помогает избежать этого риска: он побайтно читает содержимое файла и ищет известные сигнатуры небезопасного кода, не запуская модель.

Инструмент поддерживает форматы H5, Pickle и SavedModel, используемые моделями, сохранёнными с помощью PyTorch, TensorFlow, Keras, scikit-learn, XGBoost и аналогичных библиотек, работающих с pickle, dill, joblib или cloudpickle. Обнаруженные проблемы ранжируются от LOW до CRITICAL. Результаты можно вывести в консоль или экспортировать в JSON; также через файл настроек можно задать собственный формат отчёта.

Инструмент устанавливается через pip и запускается из командной строки для проверки локального файла модели; его также можно вызывать из кода на Python. Коды завершения различают успешную проверку, обнаруженные проблемы и ошибки, поэтому ModelScan удобно добавлять в CI/CD-пайплайны.

Ключевые возможности

  • 01Проверяет файлы моделей в форматах H5, Pickle и SavedModel, не загружая их.
  • 02Поддерживает модели PyTorch, TensorFlow, Keras, scikit-learn и XGBoost.
  • 03Оценивает обнаруженный небезопасный код по уровням серьёзности от LOW до CRITICAL.
  • 04Выводит отчёты в консоль или в формате JSON; собственный формат можно задать через файл настроек.
  • 05Предоставляет Python API и CLI с кодами завершения для скриптов и CI.

Сценарии использования

  • Проверка сторонних моделей или моделей с Hugging Face перед загрузкой в среду разработки.
  • Проверка моделей, созданных обучающими пайплайнами, на подмену в цепочке поставок перед выпуском.
  • Блокировка помеченных моделей на этапе CI/CD, чтобы они не попали в production.

Быстрый старт

  1. 1

    Установить ModelScan из PyPI

    pip install modelscan
  2. 2

    Проверить локальный файл модели

    modelscan -p /path/to/model_file.pkl

Что важно знать

  • Поддерживаются только некоторые форматы моделей (H5, Pickle, SavedModel) и форматы на основе Pickle.
  • Для проверки TensorFlow и HDF5 необходимо установить дополнительные пакеты.

В подборках

Инструменты для сканирования, аудита и анализа угроз

Темы

#machine-learning#security#model-security#pickle#pytorch#tensorflow#static-analysis#mlops

Частые вопросы

Что такое modelscan?
Сканер обнаруживает небезопасный код в файлах ML-моделей до их загрузки и защищает от атак через сериализацию моделей. ModelScan проверяет файлы моделей машинного обучения на наличие небезопасного кода, встроенного при сериализации. Загрузка вредоносной модели на основе pickle может немедленно выполнить код злоумышленника и привести к краже учётных данных или данных либо к подмене результатов модели. ModelScan помогает избежать этого риска: он побайтно читает содержимое файла и ищет известные сигнатуры небезопасного кода, не запуская модель.
modelscan можно использовать бесплатно? Какая у него лицензия?
modelscan распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
modelscan всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в modelscan — 28 сент. 2026 г..
Для чего можно использовать modelscan?
Проверка сторонних моделей или моделей с Hugging Face перед загрузкой в среду разработки. Проверка моделей, созданных обучающими пайплайнами, на подмену в цепочке поставок перед выпуском. Блокировка помеченных моделей на этапе CI/CD, чтобы они не попали в production.
Как установить modelscan?
Установить ModelScan из PyPI: pip install modelscan Проверить локальный файл модели: modelscan -p /path/to/model_file.pkl
Где скачать modelscan?
Исходный код и инструкции по установке — на GitHub: https://github.com/protectai/modelscan

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

wandb / wandb

Python-библиотека и облачная платформа для отслеживания, визуализации и управления экспериментами машинного обучения, датасетами и моделями.

ИИ и машинное обучение#machine-learning#mlops#experiment-tracking
11,3 тыс.+4 за неделю915PythonMITАктивно поддерживаетсяОбновлён 16 часов назад

microsoft / AI-For-Beginners

Учебная программа Microsoft по ИИ для начинающих: 12 недель и 24 урока о символическом ИИ, нейросетях, компьютерном зрении, NLP и этике, с ноутбуками на PyTorch и TensorFlow.

Обучающие материалы#artificial-intelligence#machine-learning#deep-learning
70,6 тыс.+218 за неделю13,7 тыс.Jupyter NotebookMITОбновлён 3 дня назад