Repolode
Enviar
microsoft

microsoft/responsible-ai-toolbox

Conjunto de ferramentas em Python e com interface web para avaliar e depurar padrões de erro, equidade, interpretabilidade e efeitos causais em modelos de ML.

Ver no GitHubSite
Estrelas
1,852
Forks
507
Issues abertas
92
Último commit
há 24 horas

O que é?

Responsible AI Toolbox é uma coleção de dashboards de visualização e bibliotecas Python para examinar modelos de machine learning e seus dados. Seu principal ponto de entrada é o Responsible AI dashboard, que reúne análise de erros, avaliação de equidade, interpretabilidade de modelos, análise contrafactual, análise causal e visualizações do equilíbrio dos dados em uma única interface para uso em notebooks Jupyter.

Os componentes individuais se baseiam em projetos open source consolidados: Error Analysis encontra grupos de dados nos quais o modelo tem desempenho inferior; Fairlearn avalia métricas de equidade entre grupos; InterpretML explica as previsões do modelo; DiCE gera contrafactuais; e EconML dá suporte a perguntas causais do tipo “e se”. O dashboard é instalado com pip como o pacote raiwidgets e funciona com modelos treinados usando dados numpy, pandas ou scipy sparse, além de modelos PyTorch, TensorFlow e Keras.

O repositório também inclui um ecossistema complementar dividido em projetos separados, como uma biblioteca de mitigação para correções específicas por grupo, uma extensão do JupyterLab para acompanhar experimentos e integrada ao MLflow, e uma biblioteca para medir viés de gênero em corpora de NLP.

Recursos principais

  • 01Dashboard único que combina análise de erros, equidade, interpretabilidade, contrafactuais e análise causal.
  • 02Identifica grupos de dados nos quais a taxa de erro do modelo é maior que a taxa geral.
  • 03Calcula métricas de equidade entre grupos com base em atributos sensíveis.
  • 04Fornece explicações globais e por previsão usando InterpretML.
  • 05Pode ser instalado com pip como raiwidgets e executado em notebooks Jupyter.
  • 06Oferece suporte a modelos construídos com APIs no estilo do scikit-learn, PyTorch, TensorFlow e Keras.

Casos de uso

  • Encontrar subgrupos nos quais um classificador tem baixo desempenho antes de implantá-lo.
  • Verificar se um modelo trata grupos demográficos de forma desigual.
  • Explicar previsões individuais a stakeholders que avaliam um sistema de IA.
  • Estimar como uma mudança nas entradas ou uma ação de negócio pode afetar os resultados.

Início rápido

  1. 1

    Instale o pacote Python pelo PyPI

    pip install raiwidgets
  2. 2

    Abra o notebook getting-started nos exemplos do repositório

Antes de usar

  • O guia de início rápido principal do README é voltado para notebooks Jupyter, e é necessário reiniciar o kernel após a instalação.
  • O projeto está dividido em três repositórios, então as ferramentas relacionadas ficam fora deste.

Em coleções

Cursos e ferramentas de ciência de dados

Tópicos

#responsible-ai#explainable-ai#fairness#model-debugging#machine-learning#jupyter#interpretability#causal-inference#data-analysis#data-science

Perguntas frequentes

O que é responsible-ai-toolbox?
Conjunto de ferramentas em Python e com interface web para avaliar e depurar padrões de erro, equidade, interpretabilidade e efeitos causais em modelos de ML. Responsible AI Toolbox é uma coleção de dashboards de visualização e bibliotecas Python para examinar modelos de machine learning e seus dados. Seu principal ponto de entrada é o Responsible AI dashboard, que reúne análise de erros, avaliação de equidade, interpretabilidade de modelos, análise contrafactual, análise causal e visualizações do equilíbrio dos dados em uma única interface para uso em notebooks Jupyter.
responsible-ai-toolbox é gratuito? Qual é a licença?
responsible-ai-toolbox é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
responsible-ai-toolbox ainda é mantido?
Manutenção ativa. O último commit de responsible-ai-toolbox foi em 6 de nov. de 2026.
Para que posso usar responsible-ai-toolbox?
Encontrar subgrupos nos quais um classificador tem baixo desempenho antes de implantá-lo. Verificar se um modelo trata grupos demográficos de forma desigual. Explicar previsões individuais a stakeholders que avaliam um sistema de IA. Estimar como uma mudança nas entradas ou uma ação de negócio pode afetar os resultados.
Como instalar responsible-ai-toolbox?
Instale o pacote Python pelo PyPI: pip install raiwidgets Abra o notebook getting-started nos exemplos do repositório
Onde consigo responsible-ai-toolbox?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/microsoft/responsible-ai-toolbox

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados