Conjunto de ferramentas em Python e com interface web para avaliar e depurar padrões de erro, equidade, interpretabilidade e efeitos causais em modelos de ML.
1,9 mil+2 esta semana507TypeScriptMITAtualizado há 21 horas
meta-pytorch/captum
Biblioteca de interpretabilidade de modelos para PyTorch que explica quais atributos de entrada, neurônios e exemplos de treinamento influenciam as previsões de um modelo.
- Estrelas
- 5,720
- Forks
- 574
- Issues abertas
- 91
- Último commit
- há 7 dias
O que é?
Captum é uma biblioteca de interpretabilidade e compreensão de modelos para PyTorch. Ela oferece implementações de uso geral de algoritmos de atribuição, como Integrated Gradients, mapas de saliência, SmoothGrad, DeepLift e GradCAM, que atribuem uma pontuação de importância a cada elemento de entrada para uma determinada previsão.
Além da atribuição a entradas, Captum pode medir quanto neurônios e camadas individuais contribuem para uma saída e inclui métodos baseados em TracIn que rastreiam previsões até exemplos de treinamento influentes. Também oferece ataques adversariais e ferramentas para perturbar minimamente as entradas e gerar explicações contrafactuais. A integração com modelos criados com torchvision e torchtext é descrita como simples.
A biblioteca requer Python 3.10 ou superior e PyTorch 2.3 ou superior, e pode ser instalada com pip ou conda.
Recursos principais
- 01Algoritmos de atribuição, incluindo Integrated Gradients, DeepLift, GradientShap e Saliency
- 02Análise da importância de neurônios e camadas por métodos de condutância
- 03Estimativa da influência dos dados de treinamento com variantes de TracIn
- 04NoiseTunnel para suavizar atribuições com SmoothGrad e VarGrad
- 05Ataques adversariais e perturbação de entradas para gerar explicações contrafactuais
Casos de uso
- Verificar em quais pixels ou tokens de entrada um classificador de imagens ou texto em PyTorch se baseia
- Depurar saídas inesperadas do modelo rastreando-as até exemplos de treinamento influentes
- Comparar novos algoritmos de interpretabilidade com implementações existentes
- Fornecer explicações no nível de atributos para recomendações ou previsões em produção
Início rápido
- 1
Instale o Captum pelo PyPI
pip install captum - 2
Clone o repositório para instalar manualmente a versão de desenvolvimento
git clone https://github.com/pytorch/captum.git - 3
Acesse o diretório do projeto e instale no modo editável
cd captum && pip install -e .
Antes de usar
- Requer Python 3.10 ou superior e PyTorch 2.3 ou superior.
- Atualmente, DeepLift só oferece suporte à regra Rescale e não a todos os tipos de ativação não linear.
Tópicos
#pytorch#interpretability#explainable-ai#feature-attribution#deep-learning#model-debugging#feature-importance#interpretable-ai#interpretable-ml
Perguntas frequentes
- O que é captum?
- Biblioteca de interpretabilidade de modelos para PyTorch que explica quais atributos de entrada, neurônios e exemplos de treinamento influenciam as previsões de um modelo. Captum é uma biblioteca de interpretabilidade e compreensão de modelos para PyTorch. Ela oferece implementações de uso geral de algoritmos de atribuição, como Integrated Gradients, mapas de saliência, SmoothGrad, DeepLift e GradCAM, que atribuem uma pontuação de importância a cada elemento de entrada para uma determinada previsão.
- captum é gratuito? Qual é a licença?
- captum é open source sob a licença BSD-3-Clause. Confira os termos da licença antes de usá-lo em produtos comerciais.
- captum ainda é mantido?
- Manutenção ativa. O último commit de captum foi em 1 de nov. de 2026.
- Para que posso usar captum?
- Verificar em quais pixels ou tokens de entrada um classificador de imagens ou texto em PyTorch se baseia Depurar saídas inesperadas do modelo rastreando-as até exemplos de treinamento influentes Comparar novos algoritmos de interpretabilidade com implementações existentes Fornecer explicações no nível de atributos para recomendações ou previsões em produção
- Como instalar captum?
- Instale o Captum pelo PyPI: pip install captum Clone o repositório para instalar manualmente a versão de desenvolvimento: git clone https://github.com/pytorch/captum.git Acesse o diretório do projeto e instale no modo editável: cd captum && pip install -e .
- Onde consigo captum?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/meta-pytorch/captum
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Biblioteca PyTorch que implementa métodos de mapas de ativação de classe (CAM) para visualizar quais regiões da imagem influenciam as previsões de modelos de visão computacional.
13 mil+9 esta semana1,7 milPythonMITAtualizado há 7 dias
Toolkit Python de código aberto para avaliar quantitativamente explicações de redes neurais com mais de 30 métricas de XAI, em PyTorch e TensorFlow.
680+2 esta semana94Jupyter NotebookOtherAtualizado há 12 dias
Biblioteca baseada em PyTorch Lightning para criar modelos de deep learning interpretáveis e baseados em conceitos, com tensores anotados, intervenções e modelos gráficos probabilísticos.
309+40 esta semana30PythonApache-2.0Atualizado há 3 dias
Uma biblioteca Python para inferência por recortes, que executa modelos de detecção de objetos em partes de imagens grandes para encontrar objetos pequenos.
IA e Machine Learning#computer-vision#object-detection#small-object-detection#instance-segmentation#tiling
5,6 mil+16 esta semana793PythonMITBem mantidoAtualizado há 7 dias
Plataforma de machine learning e IA para JVM, com ML clássico, deep learning, NLP, visualização e inferência de LLMs/ONNX para Java, Kotlin e Scala.
6,4 mil1,1 milJavaOtherBem mantidoAtualizado há 9 horas