Repolode
提交项目
understandable-machine-intelligence-lab

understandable-machine-intelligence-lab/Quantus

开源 Python 工具包，用 30 多种指标定量评估神经网络解释结果，支持 PyTorch 与 TensorFlow。

在 GitHub 查看官网
Star
680
Fork
94
未关闭 Issue
66
最近提交
12天前

这是什么？

Quantus 是一个用于评估神经网络可解释性（XAI）方法所生成解释的工具包。仅凭可视化对比热力图往往难以判断哪种方法更好，而且通常缺少真值标注，因此 Quantus 提供定量指标来横向比较不同解释方法。

指标分为六类：忠实性（faithfulness）、鲁棒性（robustness）、定位性（localisation）、复杂度（complexity）、随机化敏感性（randomisation）和公理性（axiomatic）。库支持图像、表格和时间序列数据，以及基于 PyTorch 或 TensorFlow 构建的模型。用户可以直接传入预先计算好的归因结果，也可以传入解释函数；通过 quantus.evaluate() 一次调用，即可对多个 XAI 方法运行多个指标。

库内直接支持 Captum、Zennit 和 tf-explain 等解释方法。项目可通过 PyPI 安装，相关论文发表于《Journal of Machine Learning Research》（MLOSS 方向）。

核心功能

  • 01提供 30 多种评估指标，涵盖忠实性、鲁棒性、定位性等六大类。
  • 02兼容 PyTorch 与 TensorFlow 模型。
  • 03支持图像、表格和时间序列数据。
  • 04既可接收预先计算的归因结果，也可接收任意解释函数。
  • 05通过 quantus.evaluate() 一次性对多种指标和多种 XAI 方法进行批量评估。
  • 06可直接使用 Captum、Zennit 和 tf-explain 生成的解释。

适用场景

  • 对比多种解释方法在已训练图像分类模型上的表现，选出最合适的一种。
  • 检验解释结果在输入轻微扰动下是否保持稳定。
  • 在研究流程中评估表格数据模型的解释质量。
  • 以统一的实现复现已发表的 XAI 评估指标。

使用前须知

  • 许可证未被明确识别（元数据显示为 NOASSERTION），使用前请先核实仓库的许可证条款。
  • README 称该项目仍在积极开发中，因此请固定具体发行版本以保证结果可复现。

标签

#explainable-ai#interpretability#deep-learning#pytorch#tensorflow#model-evaluation#machine-learning#quantification-evaluation-methods#reproducibility#xai

常见问题

Quantus 是什么？
开源 Python 工具包，用 30 多种指标定量评估神经网络解释结果，支持 PyTorch 与 TensorFlow。 Quantus 是一个用于评估神经网络可解释性（XAI）方法所生成解释的工具包。仅凭可视化对比热力图往往难以判断哪种方法更好，而且通常缺少真值标注，因此 Quantus 提供定量指标来横向比较不同解释方法。
Quantus 可以免费使用吗？用的什么许可证？
Quantus 以 Other 许可证开源。用于商业产品前，请先确认许可证条款。
Quantus 还在维护吗？
活跃维护中。Quantus 最近一次提交是在 2026年10月26日。
Quantus 适合用来做什么？
对比多种解释方法在已训练图像分类模型上的表现，选出最合适的一种。 检验解释结果在输入轻微扰动下是否保持稳定。 在研究流程中评估表格数据模型的解释质量。 以统一的实现复现已发表的 XAI 评估指标。
在哪里获取 Quantus？
源代码和安装说明在 GitHub 上：https://github.com/understandable-machine-intelligence-lab/Quantus

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目