Repolode
pyc-team

pyc-team/pytorch_concepts

Библиотека на базе PyTorch Lightning для создания интерпретируемых моделей глубокого обучения на основе концепций, с аннотированными тензорами, интервенциями и вероятностными графическими моделями.

Звёзды
293
Форки
30
Открытые issues
11
Последний коммит
3 дня назад

Что это?

PyC (PyTorch Concepts) — библиотека Python на базе PyTorch и PyTorch Lightning для создания моделей глубокого обучения, в которых предсказания выражаются через понятные человеку концепции. Вместо того чтобы напрямую сопоставлять входные данные с целевыми значениями, модели устроены так, что концепции получают названия, вычисляются и используются при обучении, а также доступны для просмотра и изменения.

Библиотека предоставляет аннотированные тензоры, связывающие значения с названиями, типами и мощностями концепций; слои концепций и функции потерь, оценивающие каждую концепцию с учётом её типа; а также контекстный менеджер для интервенций, который переопределяет выбранные значения концепций во время прямого прохода. API среднего уровня позволяет задавать интерпретируемые вероятностные графические модели над концепциями и эмбеддингами и выполнять для них инференс.

PyC состоит из нескольких уровней: низкоуровневые интерпретируемые слои, вероятностные модели среднего уровня, готовые модели высокого уровня, которые можно использовать как модули PyTorch или Lightning, и инструмент без кода для экспериментов в больших масштабах с настройкой через конфигурационные файлы — Conceptarium, построенный на Hydra и WandB. Проект имеет статус alpha, поэтому публичные API могут меняться от релиза к релизу.

Ключевые возможности

  • 01Аннотированные тензоры, позволяющие выбирать данные по названию или типу концепции.
  • 02Слои концепций, преобразующие эмбеддинги или концепции в концепции.
  • 03Функции потерь для концепций, применяющие подходящую функцию потерь для бинарных, категориальных и непрерывных концепций.
  • 04Контекстный менеджер для интервенций, позволяющий задавать значения концепций во время прямого прохода.
  • 05API вероятностных графических моделей для условных распределений над концепциями.
  • 06Эксперименты с настройкой через конфигурационные файлы с помощью Conceptarium, построенного на Hydra и WandB.

Сценарии использования

  • Создание классификаторов изображений или табличных данных, чьи промежуточные предсказания представлены понятными человеку концепциями.
  • Проверка того, как меняется выход модели, если переопределить конкретные концепции с помощью интервенции.
  • Исследование моделей на основе концепций и их сравнение на разных наборах данных с помощью конфигурационных файлов.
  • Моделирование условных зависимостей между концепциями и целевыми значениями с помощью вероятностных графических моделей.

Быстрый старт

  1. 1

    Установите библиотеку из PyPI с дополнительными зависимостями data

    pip install --pre "pytorch-concepts[data]"
  2. 2

    Или установите версию только с ядром, без зависимостей data

    pip install --pre pytorch-concepts

Что важно знать

  • Альфа-версия: публичные API могут меняться и быть нестабильными между релизами.
  • Для установки требуется флаг --pre, указывающий на предварительные сборки.

Темы

#pytorch#interpretability#explainable-ai#concept-based-models#deep-learning#probabilistic-graphical-models#neurosymbolic#ai#concepts#interpretable-machine-learning

Частые вопросы

Что такое pytorch_concepts?
Библиотека на базе PyTorch Lightning для создания интерпретируемых моделей глубокого обучения на основе концепций, с аннотированными тензорами, интервенциями и вероятностными графическими моделями. PyC (PyTorch Concepts) — библиотека Python на базе PyTorch и PyTorch Lightning для создания моделей глубокого обучения, в которых предсказания выражаются через понятные человеку концепции. Вместо того чтобы напрямую сопоставлять входные данные с целевыми значениями, модели устроены так, что концепции получают названия, вычисляются и используются при обучении, а также доступны для просмотра и изменения.
pytorch_concepts можно использовать бесплатно? Какая у него лицензия?
pytorch_concepts распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
pytorch_concepts всё ещё поддерживается?
Активно поддерживается. Последний коммит в pytorch_concepts — 4 нояб. 2026 г..
Для чего можно использовать pytorch_concepts?
Создание классификаторов изображений или табличных данных, чьи промежуточные предсказания представлены понятными человеку концепциями. Проверка того, как меняется выход модели, если переопределить конкретные концепции с помощью интервенции. Исследование моделей на основе концепций и их сравнение на разных наборах данных с помощью конфигурационных файлов. Моделирование условных зависимостей между концепциями и целевыми значениями с помощью вероятностных графических моделей.
Как установить pytorch_concepts?
Установите библиотеку из PyPI с дополнительными зависимостями data: pip install --pre "pytorch-concepts[data]" Или установите версию только с ядром, без зависимостей data: pip install --pre pytorch-concepts
Где скачать pytorch_concepts?
Исходный код и инструкции по установке — на GitHub: https://github.com/pyc-team/pytorch_concepts

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Библиотека Python для инференса по фрагментам: она запускает детекторы объектов на тайлах больших изображений, чтобы находить мелкие объекты.

5,6 тыс.+11 за неделю794PythonMITАктивно поддерживаетсяОбновлён 7 дней назад

Набор инструментов на Python и с веб-интерфейсом для оценки и отладки ML-моделей: анализ ошибок, справедливости, интерпретируемости и причинно-следственных эффектов.

1,9 тыс.+2 за неделю507TypeScriptMITОбновлён вчера