Biblioteca basada en PyTorch Lightning para crear modelos de deep learning interpretables y basados en conceptos, con tensores anotados, intervenciones y modelos gráficos probabilísticos.
PyC (PyTorch Concepts) es una biblioteca de Python basada en PyTorch y PyTorch Lightning para diseñar modelos de deep learning cuyas predicciones se expresan mediante conceptos comprensibles para las personas. En lugar de asignar directamente las entradas a los objetivos, los modelos se estructuran para que los conceptos tengan nombres, se calculen, se entrenen y puedan inspeccionarse o modificarse.
La biblioteca ofrece tensores anotados que vinculan valores con nombres, tipos y cardinalidades de conceptos; capas y funciones de pérdida para conceptos que evalúan cada concepto según su tipo; y un administrador de contexto de intervención que reemplaza los valores de los conceptos seleccionados durante una pasada hacia delante. Las API de nivel intermedio permiten definir modelos gráficos probabilísticos interpretables sobre conceptos e embeddings, y realizar inferencias con ellos.
PyC está organizado en capas: capas interpretables de bajo nivel, modelos probabilísticos de nivel intermedio, modelos listos para usar de alto nivel compatibles con PyTorch o Lightning, y una herramienta sin código basada en configuración, llamada Conceptarium, que utiliza Hydra y WandB para ejecutar experimentos a gran escala. El proyecto está marcado como alfa, por lo que las API públicas pueden cambiar entre versiones.
Instala la biblioteca desde PyPI con data extras
pip install --pre "pytorch-concepts[data]"O instala la versión básica sin dependencias de data
pip install --pre pytorch-conceptsResumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Una biblioteca de PyTorch que implementa métodos de mapas de activación de clases (CAM) para visualizar qué regiones de una imagen impulsan las predicciones de un modelo de visión artificial.
Biblioteca de interpretabilidad para PyTorch que explica qué características de entrada, neuronas y ejemplos de entrenamiento determinan las predicciones de un modelo.
Toolkit de Python de código abierto para evaluar cuantitativamente explicaciones de redes neuronales con más de 30 métricas XAI en PyTorch y TensorFlow.
Una biblioteca de Python para inferencia por recortes que ejecuta modelos de detección de objetos sobre mosaicos de imágenes grandes para encontrar objetos pequeños.
Conjunto de herramientas de Python y una interfaz web para evaluar y depurar patrones de error, equidad, interpretabilidad y efectos causales en modelos de ML.
Plataforma de machine learning e IA para la JVM que abarca ML clásico, deep learning, NLP, visualización e inferencia con LLM y ONNX para Java, Kotlin y Scala.