Biblioteca PyTorch que implementa métodos de mapas de ativação de classe (CAM) para visualizar quais regiões da imagem influenciam as previsões de modelos de visão computacional.
13 mil+9 esta semana1,7 milPythonMITAtualizado há 7 dias
understandable-machine-intelligence-lab/Quantus
Toolkit Python de código aberto para avaliar quantitativamente explicações de redes neurais com mais de 30 métricas de XAI, em PyTorch e TensorFlow.
- Estrelas
- 680
- Forks
- 94
- Issues abertas
- 66
- Último commit
- há 12 dias
O que é?
Quantus é um toolkit para avaliar explicações geradas por métodos de IA explicável (XAI) para redes neurais. Comparar mapas de saliência visualmente muitas vezes não basta para saber qual método funciona melhor, e geralmente não há dados de referência disponíveis. Por isso, o Quantus oferece métricas quantitativas para comparar métodos de explicação entre si.
As métricas são divididas em seis categorias: fidelidade, robustez, localização, complexidade, randomização (sensibilidade) e propriedades axiomáticas. A biblioteca oferece suporte a dados de imagem, tabulares e séries temporais, além de modelos construídos com PyTorch ou TensorFlow. É possível passar atribuições pré-computadas ou uma função de explicação e executar várias métricas em diversos métodos de XAI com uma única chamada a quantus.evaluate().
Métodos de explicação do Captum, Zennit e tf-explain são compatíveis diretamente. O projeto pode ser instalado pelo PyPI e foi publicado no Journal of Machine Learning Research (trilha MLOSS).
Recursos principais
- 01Oferece mais de 30 métricas de avaliação em seis categorias, incluindo fidelidade, robustez e localização.
- 02Funciona com modelos de PyTorch e TensorFlow.
- 03Oferece suporte a dados de imagem, tabulares e séries temporais.
- 04Aceita atribuições pré-computadas ou qualquer função de explicação.
- 05Disponibiliza quantus.evaluate() para executar várias métricas em diversos métodos de XAI de uma só vez.
- 06Integra-se ao Captum, Zennit e tf-explain.
Casos de uso
- Comparar métodos de explicação para identificar qual funciona melhor com um classificador de imagens treinado.
- Verificar se as explicações permanecem estáveis diante de pequenas perturbações na entrada.
- Comparar a qualidade das explicações de modelos tabulares em um pipeline de pesquisa.
- Reproduzir métricas publicadas de avaliação de XAI com uma implementação consistente.
Antes de usar
- A licença não está claramente identificada (listada como NOASSERTION), então verifique os termos da licença do repositório antes de usar o projeto.
- O README informa que o projeto está em desenvolvimento ativo. Fixe uma versão específica do lançamento para manter os resultados reproduzíveis.
Tópicos
#explainable-ai#interpretability#deep-learning#pytorch#tensorflow#model-evaluation#machine-learning#quantification-evaluation-methods#reproducibility#xai
Perguntas frequentes
- O que é Quantus?
- Toolkit Python de código aberto para avaliar quantitativamente explicações de redes neurais com mais de 30 métricas de XAI, em PyTorch e TensorFlow. Quantus é um toolkit para avaliar explicações geradas por métodos de IA explicável (XAI) para redes neurais. Comparar mapas de saliência visualmente muitas vezes não basta para saber qual método funciona melhor, e geralmente não há dados de referência disponíveis. Por isso, o Quantus oferece métricas quantitativas para comparar métodos de explicação entre si.
- Quantus é gratuito? Qual é a licença?
- Quantus é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
- Quantus ainda é mantido?
- Manutenção ativa. O último commit de Quantus foi em 26 de out. de 2026.
- Para que posso usar Quantus?
- Comparar métodos de explicação para identificar qual funciona melhor com um classificador de imagens treinado. Verificar se as explicações permanecem estáveis diante de pequenas perturbações na entrada. Comparar a qualidade das explicações de modelos tabulares em um pipeline de pesquisa. Reproduzir métricas publicadas de avaliação de XAI com uma implementação consistente.
- Onde consigo Quantus?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/understandable-machine-intelligence-lab/Quantus
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Biblioteca de interpretabilidade de modelos para PyTorch que explica quais atributos de entrada, neurônios e exemplos de treinamento influenciam as previsões de um modelo.
5,7 mil+1 esta semana574PythonBSD-3-ClauseAtualizado há 7 dias
Biblioteca baseada em PyTorch Lightning para criar modelos de deep learning interpretáveis e baseados em conceitos, com tensores anotados, intervenções e modelos gráficos probabilísticos.
309+40 esta semana30PythonApache-2.0Atualizado há 3 dias
Conjunto de ferramentas em Python e com interface web para avaliar e depurar padrões de erro, equidade, interpretabilidade e efeitos causais em modelos de ML.
1,9 mil+2 esta semana507TypeScriptMITAtualizado há 21 horas
Keras 3 é um framework de deep learning que roda com JAX, TensorFlow, PyTorch ou OpenVINO para inferência.
64,4 mil+8 esta semana19,8 milPythonApache-2.0Bem mantidoAtualizado ontem
Visualizador de modelos de redes neurais, deep learning e machine learning, com suporte a ONNX, TensorFlow, PyTorch, Core ML e muitos outros formatos.
33,7 mil+26 esta semana3,2 milJavaScriptMITBem mantidoAtualizado ontem