Repolode
Enviar
microsoft

microsoft/responsible-ai-toolbox

Conjunto de herramientas de Python y una interfaz web para evaluar y depurar patrones de error, equidad, interpretabilidad y efectos causales en modelos de ML.

Ver en GitHubSitio web
Estrellas
1,852
Forks
507
Issues abiertos
92
Último commit
hace 20 horas

¿Qué es?

Responsible AI Toolbox es una colección de paneles de visualización y bibliotecas de Python para examinar modelos de machine learning y sus datos. Su principal punto de acceso es el panel Responsible AI, que reúne en una sola interfaz para usar en notebooks de Jupyter el análisis de errores, la evaluación de la equidad, la interpretabilidad de modelos, el análisis contrafactual, el análisis causal y las vistas de balance de datos.

Los componentes individuales se basan en proyectos de código abierto consolidados: Error Analysis encuentra cohortes de datos en las que un modelo tiene un rendimiento inferior; Fairlearn evalúa métricas de equidad entre grupos; InterpretML explica las predicciones del modelo; DiCE genera contrafactuales; y EconML permite plantear preguntas causales del tipo «qué pasaría si». El panel se instala con pip como el paquete raiwidgets y funciona con modelos entrenados con datos de numpy, pandas o matrices dispersas de scipy, así como con modelos de PyTorch, TensorFlow y Keras.

El repositorio también incluye un ecosistema complementario, dividido en proyectos independientes, como una biblioteca de mitigaciones para aplicar correcciones específicas a cohortes, una extensión de JupyterLab para el seguimiento de experimentos que se integra con MLflow y una biblioteca para medir sesgos de género en corpus de NLP.

Funciones clave

  • 01Un único panel que combina análisis de errores, equidad, interpretabilidad, contrafactuales y análisis causal.
  • 02Identifica cohortes de datos en las que la tasa de error del modelo supera la tasa general.
  • 03Calcula métricas de equidad entre grupos a partir de características sensibles.
  • 04Ofrece explicaciones globales y para cada predicción mediante InterpretML.
  • 05Se instala con pip como raiwidgets y se ejecuta en notebooks de Jupyter.
  • 06Admite modelos creados con APIs de estilo scikit-learn, PyTorch, TensorFlow y Keras.

Casos de uso

  • Encontrar subgrupos en los que un clasificador tiene un rendimiento deficiente antes de implementarlo.
  • Comprobar si un modelo trata de forma desigual a distintos grupos demográficos.
  • Explicar predicciones individuales a las partes interesadas que evalúan un sistema de IA.
  • Estimar cómo podrían afectar los resultados un cambio en las entradas o una acción empresarial.

Inicio rápido

  1. 1

    Instala el paquete de Python desde PyPI

    pip install raiwidgets
  2. 2

    Abre el notebook getting-started de los ejemplos del repositorio

Antes de usarlo

  • La guía de inicio rápido principal del README está dirigida a notebooks de Jupyter y debes reiniciar el kernel después de la instalación.
  • El proyecto está dividido en tres repositorios, por lo que las herramientas relacionadas se encuentran fuera de este.

En colecciones

Cursos y herramientas de ciencia de datos

Temas

#responsible-ai#explainable-ai#fairness#model-debugging#machine-learning#jupyter#interpretability#causal-inference#data-analysis#data-science

Preguntas frecuentes

¿Qué es responsible-ai-toolbox?
Conjunto de herramientas de Python y una interfaz web para evaluar y depurar patrones de error, equidad, interpretabilidad y efectos causales en modelos de ML. Responsible AI Toolbox es una colección de paneles de visualización y bibliotecas de Python para examinar modelos de machine learning y sus datos. Su principal punto de acceso es el panel Responsible AI, que reúne en una sola interfaz para usar en notebooks de Jupyter el análisis de errores, la evaluación de la equidad, la interpretabilidad de modelos, el análisis contrafactual, el análisis causal y las vistas de balance de datos.
¿responsible-ai-toolbox es gratuito? ¿Qué licencia tiene?
responsible-ai-toolbox es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿responsible-ai-toolbox sigue mantenido?
Mantenimiento activo. El último commit de responsible-ai-toolbox fue el 7 nov 2026.
¿Para qué puedo usar responsible-ai-toolbox?
Encontrar subgrupos en los que un clasificador tiene un rendimiento deficiente antes de implementarlo. Comprobar si un modelo trata de forma desigual a distintos grupos demográficos. Explicar predicciones individuales a las partes interesadas que evalúan un sistema de IA. Estimar cómo podrían afectar los resultados un cambio en las entradas o una acción empresarial.
¿Cómo se instala responsible-ai-toolbox?
Instala el paquete de Python desde PyPI: pip install raiwidgets Abre el notebook getting-started de los ejemplos del repositorio
¿Dónde consigo responsible-ai-toolbox?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/microsoft/responsible-ai-toolbox

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados