基于 PyTorch 的类激活图(CAM)方法库,用于可视化视觉模型做出预测时关注的图像区域。
pyc-team/pytorch_concepts
基于 PyTorch 的库,用于构建基于概念的可解释深度学习模型,支持概念标注张量与干预操作。
- Star
- 293
- Fork
- 30
- 未关闭 Issue
- 11
- 最近提交
- 3天前
这是什么?
PyC(PyTorch Concepts)是一个基于 PyTorch 和 PyTorch Lightning 的 Python 库,用于构建预测结果通过人类可理解的概念来表达的深度学习模型。模型结构围绕概念展开:概念可以被命名、计算、训练,并且在推理时可以检查或修改。
库中提供了为数值绑定概念名称、类型和基数的标注张量,按类型对每个概念计算损失的概念层与损失函数,以及在前向传播中覆盖指定概念取值的干预上下文管理器。中层 API 允许用户在概念和嵌入之上定义可解释的概率图模型并进行推断。
PyC 采用分层设计:底层是可解释层,中层是概率图模型,高层提供可直接使用、可作为 PyTorch 或 Lightning 模块调用的现成模型,另有基于 Hydra 和 WandB、通过配置文件运行大规模实验的无代码工具 Conceptarium。项目目前处于 alpha 阶段,公共 API 在版本间可能变化。
核心功能
- 01标注张量可按概念名称或概念类型切片取值。
- 02概念层可将嵌入或概念映射到新的概念。
- 03概念损失按二元、类别和连续类型分别选用对应损失函数。
- 04干预上下文管理器可在前向传播中设置指定概念的取值。
- 05提供概率图模型接口,用于定义概念上的条件分布。
- 06通过基于 Hydra 和 WandB 的 Conceptarium 以配置文件运行大规模实验。
适用场景
- 构建中间预测为人类可读概念的图像或表格分类模型。
- 通过干预操作检验覆盖特定概念后模型输出的变化。
- 用配置文件在多个数据集上开展基于概念模型的研究与基准测试。
- 借助概率图模型刻画概念与目标之间的条件依赖关系。
快速上手
- 1
从 PyPI 安装带数据依赖的库
pip install --pre "pytorch-concepts[data]" - 2
或安装不含数据依赖的核心版本
pip install --pre pytorch-concepts
使用前须知
- 处于 Alpha 阶段:公共 API 可能变化,版本之间可能不稳定。
- 安装需要使用 --pre 参数,表明安装的是预发布版本。
标签
常见问题
- pytorch_concepts 是什么?
- 基于 PyTorch 的库,用于构建基于概念的可解释深度学习模型,支持概念标注张量与干预操作。 PyC(PyTorch Concepts)是一个基于 PyTorch 和 PyTorch Lightning 的 Python 库,用于构建预测结果通过人类可理解的概念来表达的深度学习模型。模型结构围绕概念展开:概念可以被命名、计算、训练,并且在推理时可以检查或修改。
- pytorch_concepts 可以免费使用吗?用的什么许可证?
- pytorch_concepts 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- pytorch_concepts 还在维护吗?
- 活跃维护中。pytorch_concepts 最近一次提交是在 2026年11月4日。
- pytorch_concepts 适合用来做什么?
- 构建中间预测为人类可读概念的图像或表格分类模型。 通过干预操作检验覆盖特定概念后模型输出的变化。 用配置文件在多个数据集上开展基于概念模型的研究与基准测试。 借助概率图模型刻画概念与目标之间的条件依赖关系。
- pytorch_concepts 怎么安装和运行?
- 从 PyPI 安装带数据依赖的库: pip install --pre "pytorch-concepts[data]" 或安装不含数据依赖的核心版本: pip install --pre pytorch-concepts
- 在哪里获取 pytorch_concepts?
- 源代码和安装说明在 GitHub 上:https://github.com/pyc-team/pytorch_concepts
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
面向 PyTorch 的模型可解释性库,用于分析哪些输入特征、神经元和训练样本影响模型预测。
开源 Python 工具包,用 30 多种指标定量评估神经网络解释结果,支持 PyTorch 与 TensorFlow。
一个 Python 切片推理库,将大图切分成小块后用检测模型逐块推理,以发现小目标。
一套用于评估和调试机器学习模型的工具集,涵盖错误分析、公平性、可解释性和因果分析。
面向 JVM 的机器学习与 AI 平台,覆盖经典机器学习、深度学习、NLP、可视化以及 LLM/ONNX 推理。