Библиотека для PyTorch с методами CAM, которые визуализируют области изображения, влияющие на предсказания модели компьютерного зрения.
pyc-team/pytorch_concepts
Библиотека на базе PyTorch Lightning для создания интерпретируемых моделей глубокого обучения на основе концепций, с аннотированными тензорами, интервенциями и вероятностными графическими моделями.
- Звёзды
- 293
- Форки
- 30
- Открытые issues
- 11
- Последний коммит
- 3 дня назад
Что это?
PyC (PyTorch Concepts) — библиотека Python на базе PyTorch и PyTorch Lightning для создания моделей глубокого обучения, в которых предсказания выражаются через понятные человеку концепции. Вместо того чтобы напрямую сопоставлять входные данные с целевыми значениями, модели устроены так, что концепции получают названия, вычисляются и используются при обучении, а также доступны для просмотра и изменения.
Библиотека предоставляет аннотированные тензоры, связывающие значения с названиями, типами и мощностями концепций; слои концепций и функции потерь, оценивающие каждую концепцию с учётом её типа; а также контекстный менеджер для интервенций, который переопределяет выбранные значения концепций во время прямого прохода. API среднего уровня позволяет задавать интерпретируемые вероятностные графические модели над концепциями и эмбеддингами и выполнять для них инференс.
PyC состоит из нескольких уровней: низкоуровневые интерпретируемые слои, вероятностные модели среднего уровня, готовые модели высокого уровня, которые можно использовать как модули PyTorch или Lightning, и инструмент без кода для экспериментов в больших масштабах с настройкой через конфигурационные файлы — Conceptarium, построенный на Hydra и WandB. Проект имеет статус alpha, поэтому публичные API могут меняться от релиза к релизу.
Ключевые возможности
- 01Аннотированные тензоры, позволяющие выбирать данные по названию или типу концепции.
- 02Слои концепций, преобразующие эмбеддинги или концепции в концепции.
- 03Функции потерь для концепций, применяющие подходящую функцию потерь для бинарных, категориальных и непрерывных концепций.
- 04Контекстный менеджер для интервенций, позволяющий задавать значения концепций во время прямого прохода.
- 05API вероятностных графических моделей для условных распределений над концепциями.
- 06Эксперименты с настройкой через конфигурационные файлы с помощью Conceptarium, построенного на Hydra и WandB.
Сценарии использования
- Создание классификаторов изображений или табличных данных, чьи промежуточные предсказания представлены понятными человеку концепциями.
- Проверка того, как меняется выход модели, если переопределить конкретные концепции с помощью интервенции.
- Исследование моделей на основе концепций и их сравнение на разных наборах данных с помощью конфигурационных файлов.
- Моделирование условных зависимостей между концепциями и целевыми значениями с помощью вероятностных графических моделей.
Быстрый старт
- 1
Установите библиотеку из PyPI с дополнительными зависимостями data
pip install --pre "pytorch-concepts[data]" - 2
Или установите версию только с ядром, без зависимостей data
pip install --pre pytorch-concepts
Что важно знать
- Альфа-версия: публичные API могут меняться и быть нестабильными между релизами.
- Для установки требуется флаг --pre, указывающий на предварительные сборки.
Темы
Частые вопросы
- Что такое pytorch_concepts?
- Библиотека на базе PyTorch Lightning для создания интерпретируемых моделей глубокого обучения на основе концепций, с аннотированными тензорами, интервенциями и вероятностными графическими моделями. PyC (PyTorch Concepts) — библиотека Python на базе PyTorch и PyTorch Lightning для создания моделей глубокого обучения, в которых предсказания выражаются через понятные человеку концепции. Вместо того чтобы напрямую сопоставлять входные данные с целевыми значениями, модели устроены так, что концепции получают названия, вычисляются и используются при обучении, а также доступны для просмотра и изменения.
- pytorch_concepts можно использовать бесплатно? Какая у него лицензия?
- pytorch_concepts распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- pytorch_concepts всё ещё поддерживается?
- Активно поддерживается. Последний коммит в pytorch_concepts — 4 нояб. 2026 г..
- Для чего можно использовать pytorch_concepts?
- Создание классификаторов изображений или табличных данных, чьи промежуточные предсказания представлены понятными человеку концепциями. Проверка того, как меняется выход модели, если переопределить конкретные концепции с помощью интервенции. Исследование моделей на основе концепций и их сравнение на разных наборах данных с помощью конфигурационных файлов. Моделирование условных зависимостей между концепциями и целевыми значениями с помощью вероятностных графических моделей.
- Как установить pytorch_concepts?
- Установите библиотеку из PyPI с дополнительными зависимостями data: pip install --pre "pytorch-concepts[data]" Или установите версию только с ядром, без зависимостей data: pip install --pre pytorch-concepts
- Где скачать pytorch_concepts?
- Исходный код и инструкции по установке — на GitHub: https://github.com/pyc-team/pytorch_concepts
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Библиотека интерпретируемости моделей для PyTorch, которая показывает, какие входные признаки, нейроны и обучающие примеры влияют на предсказания модели.
Открытый Python-инструментарий для количественной оценки объяснений нейросетей с помощью более 30 метрик XAI в PyTorch и TensorFlow.
Библиотека Python для инференса по фрагментам: она запускает детекторы объектов на тайлах больших изображений, чтобы находить мелкие объекты.
Набор инструментов на Python и с веб-интерфейсом для оценки и отладки ML-моделей: анализ ошибок, справедливости, интерпретируемости и причинно-следственных эффектов.
Платформа машинного обучения и ИИ для JVM: классическое ML, глубокое обучение, NLP, визуализация и инференс LLM/ONNX для Java, Kotlin и Scala.