Repolode
Предложить
understandable-machine-intelligence-lab

understandable-machine-intelligence-lab/Quantus

Открытый Python-инструментарий для количественной оценки объяснений нейросетей с помощью более 30 метрик XAI в PyTorch и TensorFlow.

Открыть на GitHubСайт
Звёзды
680
Форки
94
Открытые issues
66
Последний коммит
12 дней назад

Что это?

Quantus — инструментарий для оценки объяснений, которые дают методы explainable AI (XAI) для нейросетей. Визуального сравнения карт значимости часто недостаточно, чтобы определить, какой метод работает лучше, а эталонные данные обычно недоступны. Поэтому Quantus предлагает количественные метрики для сравнения методов объяснения между собой.

Метрики разделены на шесть категорий: faithfulness, robustness, localisation, complexity, randomisation (sensitivity) и axiomatic properties. Библиотека поддерживает изображения, табличные данные и временные ряды, а также модели на PyTorch и TensorFlow. Можно передать заранее рассчитанные атрибуции или функцию объяснения, а также одним вызовом quantus.evaluate() запустить несколько метрик для нескольких методов XAI.

Методы объяснения из Captum, Zennit и tf-explain поддерживаются напрямую. Проект можно установить через PyPI; он также был опубликован в Journal of Machine Learning Research (трек MLOSS).

Ключевые возможности

  • 01Предлагает более 30 метрик оценки, разделённых на шесть категорий, в том числе faithfulness, robustness и localisation.
  • 02Работает с моделями на PyTorch и TensorFlow.
  • 03Поддерживает изображения, табличные данные и временные ряды.
  • 04Принимает заранее рассчитанные атрибуции или любую функцию объяснения.
  • 05Предоставляет quantus.evaluate() для одновременного запуска множества метрик для множества методов XAI.
  • 06Интегрируется с Captum, Zennit и tf-explain.

Сценарии использования

  • Сравнение методов объяснения, чтобы определить, какой лучше подходит для обученного классификатора изображений.
  • Проверка устойчивости объяснений к небольшим возмущениям входных данных.
  • Сравнение качества объяснений для табличных моделей в исследовательском конвейере.
  • Воспроизведение опубликованных метрик оценки XAI в рамках единой реализации.

Что важно знать

  • Лицензия не указана однозначно (указано NOASSERTION), поэтому перед использованием проверьте условия лицензии в репозитории.
  • В README сказано, что проект активно разрабатывается. Зафиксируйте конкретную версию релиза, чтобы результаты можно было воспроизвести.

Темы

#explainable-ai#interpretability#deep-learning#pytorch#tensorflow#model-evaluation#machine-learning#quantification-evaluation-methods#reproducibility#xai

Частые вопросы

Что такое Quantus?
Открытый Python-инструментарий для количественной оценки объяснений нейросетей с помощью более 30 метрик XAI в PyTorch и TensorFlow. Quantus — инструментарий для оценки объяснений, которые дают методы explainable AI (XAI) для нейросетей. Визуального сравнения карт значимости часто недостаточно, чтобы определить, какой метод работает лучше, а эталонные данные обычно недоступны. Поэтому Quantus предлагает количественные метрики для сравнения методов объяснения между собой.
Quantus можно использовать бесплатно? Какая у него лицензия?
Quantus распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.
Quantus всё ещё поддерживается?
Активно поддерживается. Последний коммит в Quantus — 26 окт. 2026 г..
Для чего можно использовать Quantus?
Сравнение методов объяснения, чтобы определить, какой лучше подходит для обученного классификатора изображений. Проверка устойчивости объяснений к небольшим возмущениям входных данных. Сравнение качества объяснений для табличных моделей в исследовательском конвейере. Воспроизведение опубликованных метрик оценки XAI в рамках единой реализации.
Где скачать Quantus?
Исходный код и инструкции по установке — на GitHub: https://github.com/understandable-machine-intelligence-lab/Quantus

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

pyc-team / pytorch_concepts

Библиотека на базе PyTorch Lightning для создания интерпретируемых моделей глубокого обучения на основе концепций, с аннотированными тензорами, интервенциями и вероятностными графическими моделями.

ИИ и машинное обучение#pytorch#interpretability#explainable-ai
293+24 за неделю30PythonApache-2.0Обновлён 3 дня назад

microsoft / responsible-ai-toolbox

Набор инструментов на Python и с веб-интерфейсом для оценки и отладки ML-моделей: анализ ошибок, справедливости, интерпретируемости и причинно-следственных эффектов.

ИИ и машинное обучение#responsible-ai#explainable-ai#fairness
1,9 тыс.+2 за неделю507TypeScriptMITОбновлён вчера