Toolkit de Python de código abierto para evaluar cuantitativamente explicaciones de redes neuronales con más de 30 métricas XAI en PyTorch y TensorFlow.
Quantus es un toolkit para evaluar las explicaciones generadas por métodos de inteligencia artificial explicable (XAI) para redes neuronales. Comparar visualmente mapas de saliencia suele ser insuficiente para determinar qué método funciona mejor y, como normalmente no se dispone de valores de referencia, Quantus ofrece métricas cuantitativas para comparar entre sí los métodos de explicación.
Las métricas se agrupan en seis categorías: fidelidad, robustez, localización, complejidad, aleatorización (sensibilidad) y propiedades axiomáticas. La biblioteca admite datos de imágenes, tabulares y de series temporales, así como modelos creados con PyTorch o TensorFlow. Los usuarios pueden pasar atribuciones precalculadas o una función de explicación, y ejecutar varias métricas para varios métodos XAI con una sola llamada a quantus.evaluate().
Se admiten directamente métodos de explicación de Captum, Zennit y tf-explain. El proyecto se puede instalar desde PyPI y se publicó en el Journal of Machine Learning Research (sección MLOSS).
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Una biblioteca de PyTorch que implementa métodos de mapas de activación de clases (CAM) para visualizar qué regiones de una imagen impulsan las predicciones de un modelo de visión artificial.
Biblioteca de interpretabilidad para PyTorch que explica qué características de entrada, neuronas y ejemplos de entrenamiento determinan las predicciones de un modelo.
Biblioteca basada en PyTorch Lightning para crear modelos de deep learning interpretables y basados en conceptos, con tensores anotados, intervenciones y modelos gráficos probabilísticos.
Conjunto de herramientas de Python y una interfaz web para evaluar y depurar patrones de error, equidad, interpretabilidad y efectos causales en modelos de ML.
Keras 3 es un framework de deep learning que funciona con JAX, TensorFlow, PyTorch u OpenVINO para inferencia.
Visor de modelos de redes neuronales, deep learning y machine learning, compatible con ONNX, TensorFlow, PyTorch, Core ML y muchos otros formatos.