Repolode
Enviar
pyc-team

pyc-team/pytorch_concepts

Biblioteca baseada em PyTorch Lightning para criar modelos de deep learning interpretáveis e baseados em conceitos, com tensores anotados, intervenções e modelos gráficos probabilísticos.

Ver no GitHubSite
Estrelas
309
Forks
30
Issues abertas
11
Último commit
há 3 dias

O que é?

PyC (PyTorch Concepts) é uma biblioteca Python baseada em PyTorch e PyTorch Lightning para criar modelos de deep learning cujas previsões são expressas por meio de conceitos compreensíveis para pessoas. Em vez de mapear as entradas diretamente para os alvos, os modelos são estruturados para que os conceitos tenham nomes, sejam calculados e treinados e possam ser inspecionados ou editados.

A biblioteca oferece tensores anotados que associam valores a nomes, tipos e cardinalidades de conceitos; camadas e funções de perda de conceitos que avaliam cada conceito de acordo com seu tipo; e um gerenciador de contexto de intervenção que substitui valores de conceitos selecionados durante uma passagem forward. APIs de nível intermediário permitem definir modelos gráficos probabilísticos interpretáveis sobre conceitos e embeddings e fazer inferências neles.

O PyC é organizado em camadas: camadas interpretáveis de baixo nível, modelos probabilísticos de nível intermediário, modelos prontos de alto nível que podem ser usados como módulos PyTorch ou Lightning e uma ferramenta sem código, orientada por configuração, chamada Conceptarium, baseada em Hydra e WandB para executar experimentos em larga escala. O projeto está marcado como alpha, então as APIs públicas podem mudar entre versões.

Recursos principais

  • 01Tensores anotados que selecionam dados por nome ou tipo de conceito.
  • 02Camadas de conceitos que mapeiam embeddings ou conceitos para conceitos.
  • 03Funções de perda de conceitos que aplicam a função apropriada a conceitos binários, categóricos e contínuos.
  • 04Gerenciador de contexto de intervenção para definir valores de conceitos durante uma passagem forward.
  • 05APIs de modelos gráficos probabilísticos para distribuições condicionais sobre conceitos.
  • 06Experimentos orientados por configuração com o Conceptarium, baseado em Hydra e WandB.

Casos de uso

  • Criar classificadores de imagens ou dados tabulares cujas previsões intermediárias sejam conceitos compreensíveis para pessoas.
  • Testar como a saída de um modelo muda quando conceitos específicos são substituídos por intervenção.
  • Pesquisar modelos baseados em conceitos e avaliá-los em diferentes conjuntos de dados usando arquivos de configuração.
  • Modelar dependências condicionais entre conceitos e alvos com modelos gráficos probabilísticos.

Início rápido

  1. 1

    Instale a biblioteca do PyPI com data extras

    pip install --pre "pytorch-concepts[data]"
  2. 2

    Ou instale a versão somente com o núcleo, sem dependências de data

    pip install --pre pytorch-concepts

Antes de usar

  • Software alfa: as APIs públicas podem mudar e ser instáveis entre versões.
  • A instalação requer a flag --pre, que indica versões de pré-lançamento.

Tópicos

#pytorch#interpretability#explainable-ai#concept-based-models#deep-learning#probabilistic-graphical-models#neurosymbolic#ai#concepts#interpretable-machine-learning

Perguntas frequentes

O que é pytorch_concepts?
Biblioteca baseada em PyTorch Lightning para criar modelos de deep learning interpretáveis e baseados em conceitos, com tensores anotados, intervenções e modelos gráficos probabilísticos. PyC (PyTorch Concepts) é uma biblioteca Python baseada em PyTorch e PyTorch Lightning para criar modelos de deep learning cujas previsões são expressas por meio de conceitos compreensíveis para pessoas. Em vez de mapear as entradas diretamente para os alvos, os modelos são estruturados para que os conceitos tenham nomes, sejam calculados e treinados e possam ser inspecionados ou editados.
pytorch_concepts é gratuito? Qual é a licença?
pytorch_concepts é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
pytorch_concepts ainda é mantido?
Manutenção ativa. O último commit de pytorch_concepts foi em 4 de nov. de 2026.
Para que posso usar pytorch_concepts?
Criar classificadores de imagens ou dados tabulares cujas previsões intermediárias sejam conceitos compreensíveis para pessoas. Testar como a saída de um modelo muda quando conceitos específicos são substituídos por intervenção. Pesquisar modelos baseados em conceitos e avaliá-los em diferentes conjuntos de dados usando arquivos de configuração. Modelar dependências condicionais entre conceitos e alvos com modelos gráficos probabilísticos.
Como instalar pytorch_concepts?
Instale a biblioteca do PyPI com data extras: pip install --pre "pytorch-concepts[data]" Ou instale a versão somente com o núcleo, sem dependências de data: pip install --pre pytorch-concepts
Onde consigo pytorch_concepts?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/pyc-team/pytorch_concepts

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados