Repolode
pyc-team

pyc-team/pytorch_concepts

基于 PyTorch 的库,用于构建基于概念的可解释深度学习模型,支持概念标注张量与干预操作。

Star
293
Fork
30
未关闭 Issue
11
最近提交
3天前

这是什么?

PyC(PyTorch Concepts)是一个基于 PyTorch 和 PyTorch Lightning 的 Python 库,用于构建预测结果通过人类可理解的概念来表达的深度学习模型。模型结构围绕概念展开:概念可以被命名、计算、训练,并且在推理时可以检查或修改。

库中提供了为数值绑定概念名称、类型和基数的标注张量,按类型对每个概念计算损失的概念层与损失函数,以及在前向传播中覆盖指定概念取值的干预上下文管理器。中层 API 允许用户在概念和嵌入之上定义可解释的概率图模型并进行推断。

PyC 采用分层设计:底层是可解释层,中层是概率图模型,高层提供可直接使用、可作为 PyTorch 或 Lightning 模块调用的现成模型,另有基于 Hydra 和 WandB、通过配置文件运行大规模实验的无代码工具 Conceptarium。项目目前处于 alpha 阶段,公共 API 在版本间可能变化。

核心功能

  • 01标注张量可按概念名称或概念类型切片取值。
  • 02概念层可将嵌入或概念映射到新的概念。
  • 03概念损失按二元、类别和连续类型分别选用对应损失函数。
  • 04干预上下文管理器可在前向传播中设置指定概念的取值。
  • 05提供概率图模型接口,用于定义概念上的条件分布。
  • 06通过基于 Hydra 和 WandB 的 Conceptarium 以配置文件运行大规模实验。

适用场景

  • 构建中间预测为人类可读概念的图像或表格分类模型。
  • 通过干预操作检验覆盖特定概念后模型输出的变化。
  • 用配置文件在多个数据集上开展基于概念模型的研究与基准测试。
  • 借助概率图模型刻画概念与目标之间的条件依赖关系。

快速上手

  1. 1

    从 PyPI 安装带数据依赖的库

    pip install --pre "pytorch-concepts[data]"
  2. 2

    或安装不含数据依赖的核心版本

    pip install --pre pytorch-concepts

使用前须知

  • 处于 Alpha 阶段:公共 API 可能变化,版本之间可能不稳定。
  • 安装需要使用 --pre 参数,表明安装的是预发布版本。

标签

#pytorch#interpretability#explainable-ai#concept-based-models#deep-learning#probabilistic-graphical-models#neurosymbolic#ai#concepts#interpretable-machine-learning

常见问题

pytorch_concepts 是什么?
基于 PyTorch 的库,用于构建基于概念的可解释深度学习模型,支持概念标注张量与干预操作。 PyC(PyTorch Concepts)是一个基于 PyTorch 和 PyTorch Lightning 的 Python 库,用于构建预测结果通过人类可理解的概念来表达的深度学习模型。模型结构围绕概念展开:概念可以被命名、计算、训练,并且在推理时可以检查或修改。
pytorch_concepts 可以免费使用吗?用的什么许可证?
pytorch_concepts 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
pytorch_concepts 还在维护吗?
活跃维护中。pytorch_concepts 最近一次提交是在 2026年11月4日。
pytorch_concepts 适合用来做什么?
构建中间预测为人类可读概念的图像或表格分类模型。 通过干预操作检验覆盖特定概念后模型输出的变化。 用配置文件在多个数据集上开展基于概念模型的研究与基准测试。 借助概率图模型刻画概念与目标之间的条件依赖关系。
pytorch_concepts 怎么安装和运行?
从 PyPI 安装带数据依赖的库: pip install --pre "pytorch-concepts[data]" 或安装不含数据依赖的核心版本: pip install --pre pytorch-concepts
在哪里获取 pytorch_concepts?
源代码和安装说明在 GitHub 上:https://github.com/pyc-team/pytorch_concepts

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目