Conjunto de herramientas de Python y una interfaz web para evaluar y depurar patrones de error, equidad, interpretabilidad y efectos causales en modelos de ML.
1,9 mil+2 esta semana507TypeScriptMITActualizado hace 21 horas
meta-pytorch/captum
Biblioteca de interpretabilidad para PyTorch que explica qué características de entrada, neuronas y ejemplos de entrenamiento determinan las predicciones de un modelo.
- Estrellas
- 5,720
- Forks
- 574
- Issues abiertos
- 91
- Último commit
- hace 7 días
¿Qué es?
Captum es una biblioteca de interpretabilidad y comprensión de modelos para PyTorch. Ofrece implementaciones de propósito general de algoritmos de atribución como Integrated Gradients, mapas de saliencia, SmoothGrad, DeepLift y GradCAM, que asignan una puntuación de importancia a cada elemento de entrada para una predicción determinada.
Además de la atribución de entradas, Captum permite medir cuánto contribuyen las neuronas y capas individuales a una salida, e incluye métodos basados en TracIn que rastrean las predicciones hasta los ejemplos de entrenamiento más influyentes. También ofrece ataques adversariales y herramientas para aplicar perturbaciones mínimas a las entradas y generar explicaciones contrafactuales. La integración con modelos creados con torchvision y torchtext se describe como sencilla.
La biblioteca requiere Python 3.10 o posterior y PyTorch 2.3 o posterior, y se puede instalar con pip o conda.
Funciones clave
- 01Algoritmos de atribución, como Integrated Gradients, DeepLift, GradientShap y Saliency
- 02Análisis de la importancia de neuronas y capas mediante métodos de conductancia
- 03Estimación de la influencia de los datos de entrenamiento con variantes de TracIn
- 04NoiseTunnel para suavizar atribuciones con SmoothGrad y VarGrad
- 05Ataques adversariales y perturbación de entradas para generar explicaciones contrafactuales
Casos de uso
- Comprobar en qué píxeles o tokens de entrada se basa un clasificador de imágenes o texto de PyTorch
- Depurar resultados inesperados del modelo rastreándolos hasta los ejemplos de entrenamiento más influyentes
- Comparar nuevos algoritmos de interpretabilidad con implementaciones existentes
- Ofrecer explicaciones a nivel de característica para recomendaciones o predicciones en producción
Inicio rápido
- 1
Instala Captum desde PyPI
pip install captum - 2
Clona el repositorio para instalar manualmente la versión de desarrollo
git clone https://github.com/pytorch/captum.git - 3
Entra en el directorio del proyecto e instala en modo editable
cd captum && pip install -e .
Antes de usarlo
- Requiere Python 3.10 o posterior y PyTorch 2.3 o posterior.
- DeepLift solo admite actualmente la regla Rescale y no todos los tipos de activación no lineal.
Temas
#pytorch#interpretability#explainable-ai#feature-attribution#deep-learning#model-debugging#feature-importance#interpretable-ai#interpretable-ml
Preguntas frecuentes
- ¿Qué es captum?
- Biblioteca de interpretabilidad para PyTorch que explica qué características de entrada, neuronas y ejemplos de entrenamiento determinan las predicciones de un modelo. Captum es una biblioteca de interpretabilidad y comprensión de modelos para PyTorch. Ofrece implementaciones de propósito general de algoritmos de atribución como Integrated Gradients, mapas de saliencia, SmoothGrad, DeepLift y GradCAM, que asignan una puntuación de importancia a cada elemento de entrada para una predicción determinada.
- ¿captum es gratuito? ¿Qué licencia tiene?
- captum es open source bajo la licencia BSD-3-Clause. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿captum sigue mantenido?
- Mantenimiento activo. El último commit de captum fue el 1 nov 2026.
- ¿Para qué puedo usar captum?
- Comprobar en qué píxeles o tokens de entrada se basa un clasificador de imágenes o texto de PyTorch Depurar resultados inesperados del modelo rastreándolos hasta los ejemplos de entrenamiento más influyentes Comparar nuevos algoritmos de interpretabilidad con implementaciones existentes Ofrecer explicaciones a nivel de característica para recomendaciones o predicciones en producción
- ¿Cómo se instala captum?
- Instala Captum desde PyPI: pip install captum Clona el repositorio para instalar manualmente la versión de desarrollo: git clone https://github.com/pytorch/captum.git Entra en el directorio del proyecto e instala en modo editable: cd captum && pip install -e .
- ¿Dónde consigo captum?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/meta-pytorch/captum
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Una biblioteca de PyTorch que implementa métodos de mapas de activación de clases (CAM) para visualizar qué regiones de una imagen impulsan las predicciones de un modelo de visión artificial.
13 mil+9 esta semana1,7 milPythonMITActualizado hace 7 días
Toolkit de Python de código abierto para evaluar cuantitativamente explicaciones de redes neuronales con más de 30 métricas XAI en PyTorch y TensorFlow.
680+2 esta semana94Jupyter NotebookOtherActualizado hace 12 días
Biblioteca basada en PyTorch Lightning para crear modelos de deep learning interpretables y basados en conceptos, con tensores anotados, intervenciones y modelos gráficos probabilísticos.
309+40 esta semana30PythonApache-2.0Actualizado hace 3 días
Una biblioteca de Python para inferencia por recortes que ejecuta modelos de detección de objetos sobre mosaicos de imágenes grandes para encontrar objetos pequeños.
IA y Machine Learning#computer-vision#object-detection#small-object-detection#instance-segmentation#tiling
5,6 mil+16 esta semana793PythonMITBien mantenidoActualizado hace 7 días
Plataforma de machine learning e IA para la JVM que abarca ML clásico, deep learning, NLP, visualización e inferencia con LLM y ONNX para Java, Kotlin y Scala.
6,4 mil1,1 milJavaOtherBien mantenidoActualizado hace 9 horas