Repolode
Enviar
protectai

protectai/modelscan

Un escáner que detecta código inseguro oculto en archivos de modelos de ML antes de cargarlos y protege contra ataques de serialización de modelos.

Ver en GitHubSitio web
Estrellas
792
Forks
174
Issues abiertos
105
Último commit
el mes pasado

¿Qué es?

ModelScan comprueba si los archivos de modelos de machine learning contienen código inseguro incrustado durante la serialización. Al cargar un modelo malicioso basado en pickle, se puede ejecutar código del atacante de inmediato, lo que puede provocar el robo de credenciales o datos, o generar resultados de modelo manipulados. ModelScan evita este riesgo leyendo el contenido del archivo byte por byte y buscando firmas conocidas de código inseguro, sin ejecutar nunca el modelo.

La herramienta admite los formatos H5, Pickle y SavedModel, y cubre modelos guardados con PyTorch, TensorFlow, Keras, scikit-learn, XGBoost y bibliotecas similares que usan pickle, dill, joblib o cloudpickle. Los problemas detectados se clasifican desde LOW hasta CRITICAL. Los resultados se pueden imprimir en la consola o exportar como JSON, y es posible configurar un formato de informe personalizado mediante un archivo de configuración.

Se instala con pip y se puede ejecutar desde la línea de comandos sobre un archivo de modelo local, o invocar desde código Python. Los códigos de salida distinguen entre análisis sin problemas, problemas detectados y errores, lo que facilita su integración en pipelines de CI/CD.

Funciones clave

  • 01Analiza archivos de modelos H5, Pickle y SavedModel sin cargarlos.
  • 02Cubre modelos de PyTorch, TensorFlow, Keras, scikit-learn y XGBoost.
  • 03Clasifica el código inseguro detectado según su gravedad, desde LOW hasta CRITICAL.
  • 04Genera informes en la consola o en formato JSON, con formatos personalizados mediante un archivo de configuración.
  • 05Ofrece una API de Python y una CLI con códigos de salida para scripts y CI.

Casos de uso

  • Analizar modelos de terceros o de Hugging Face antes de cargarlos en un entorno de desarrollo.
  • Comprobar si los modelos generados por pipelines de entrenamiento han sido manipulados en la cadena de suministro antes de publicarlos.
  • Controlar la implementación de modelos en CI/CD para impedir que los modelos marcados lleguen a producción.

Inicio rápido

  1. 1

    Instalar ModelScan desde PyPI

    pip install modelscan
  2. 2

    Analizar un archivo de modelo local

    modelscan -p /path/to/model_file.pkl

Antes de usarlo

  • Solo admite ciertos formatos de modelo (H5, Pickle y SavedModel) y formatos derivados de Pickle.
  • Para analizar TensorFlow y HDF5, es necesario instalar paquetes adicionales.

En colecciones

Herramientas de escaneo, auditoría e inteligencia de amenazas

Temas

#machine-learning#security#model-security#pickle#pytorch#tensorflow#static-analysis#mlops

Preguntas frecuentes

¿Qué es modelscan?
Un escáner que detecta código inseguro oculto en archivos de modelos de ML antes de cargarlos y protege contra ataques de serialización de modelos. ModelScan comprueba si los archivos de modelos de machine learning contienen código inseguro incrustado durante la serialización. Al cargar un modelo malicioso basado en pickle, se puede ejecutar código del atacante de inmediato, lo que puede provocar el robo de credenciales o datos, o generar resultados de modelo manipulados. ModelScan evita este riesgo leyendo el contenido del archivo byte por byte y buscando firmas conocidas de código inseguro, sin ejecutar nunca el modelo.
¿modelscan es gratuito? ¿Qué licencia tiene?
modelscan es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿modelscan sigue mantenido?
Actualizado en los últimos 6 meses. El último commit de modelscan fue el 28 sept 2026.
¿Para qué puedo usar modelscan?
Analizar modelos de terceros o de Hugging Face antes de cargarlos en un entorno de desarrollo. Comprobar si los modelos generados por pipelines de entrenamiento han sido manipulados en la cadena de suministro antes de publicarlos. Controlar la implementación de modelos en CI/CD para impedir que los modelos marcados lleguen a producción.
¿Cómo se instala modelscan?
Instalar ModelScan desde PyPI: pip install modelscan Analizar un archivo de modelo local: modelscan -p /path/to/model_file.pkl
¿Dónde consigo modelscan?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/protectai/modelscan

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados