Библиотека интерпретируемости моделей для PyTorch, которая показывает, какие входные признаки, нейроны и обучающие примеры влияют на предсказания модели.
5,7 тыс.+1 за неделю574PythonBSD-3-ClauseОбновлён 7 дней назад
microsoft/responsible-ai-toolbox
Набор инструментов на Python и с веб-интерфейсом для оценки и отладки ML-моделей: анализ ошибок, справедливости, интерпретируемости и причинно-следственных эффектов.
- Звёзды
- 1,852
- Форки
- 507
- Открытые issues
- 92
- Последний коммит
- 17 часов назад
Что это?
Responsible AI Toolbox — это набор интерактивных панелей визуализации и библиотек Python для анализа моделей машинного обучения и данных. Основная точка входа — Responsible AI dashboard, объединяющий в одном интерфейсе для Jupyter notebooks анализ ошибок, оценку справедливости, интерпретацию моделей, анализ контрфактических сценариев и причинно-следственных связей, а также представления баланса данных.
Отдельные компоненты построены на базе известных open-source проектов: Error Analysis находит группы данных, на которых модель работает хуже; Fairlearn рассчитывает метрики справедливости по группам; InterpretML объясняет предсказания модели; DiCE генерирует контрфактические примеры; EconML помогает отвечать на причинно-следственные вопросы в формате «что, если». Панель устанавливается через pip как пакет raiwidgets и работает с моделями, обученными на данных numpy, pandas или разреженных матрицах scipy, а также с моделями PyTorch, TensorFlow и Keras.
В репозитории также описана связанная экосистема отдельных проектов: библиотека для устранения проблем в конкретных группах данных, расширение для JupyterLab с трекингом экспериментов и интеграцией с MLflow, а также библиотека для измерения гендерной предвзятости в корпусах NLP.
Ключевые возможности
- 01Единая панель объединяет анализ ошибок, оценку справедливости, интерпретацию, контрфактические сценарии и причинно-следственный анализ.
- 02Находит группы данных, в которых частота ошибок модели выше, чем в целом.
- 03Рассчитывает метрики справедливости по группам для чувствительных признаков.
- 04Предоставляет глобальные объяснения и объяснения отдельных предсказаний с помощью InterpretML.
- 05Устанавливается через pip как raiwidgets и работает в Jupyter notebooks.
- 06Поддерживает модели, созданные с помощью API в стиле scikit-learn, PyTorch, TensorFlow и Keras.
Сценарии использования
- Поиск подгрупп, на которых классификатор работает плохо, до его развертывания.
- Проверка, не относится ли модель к демографическим группам по-разному.
- Объяснение отдельных предсказаний заинтересованным сторонам, оценивающим систему ИИ.
- Оценка того, как изменение входных данных или действие бизнеса может повлиять на результаты.
Быстрый старт
- 1
Установите пакет Python из PyPI
pip install raiwidgets - 2
Откройте блокнот getting-started из примеров репозитория
Что важно знать
- Основное краткое руководство в README рассчитано на ноутбуки Jupyter, и после установки необходимо перезапустить ядро.
- Проект разделён на три репозитория, поэтому связанные инструменты находятся за пределами этого репозитория.
В подборках
Темы
#responsible-ai#explainable-ai#fairness#model-debugging#machine-learning#jupyter#interpretability#causal-inference#data-analysis#data-science
Частые вопросы
- Что такое responsible-ai-toolbox?
- Набор инструментов на Python и с веб-интерфейсом для оценки и отладки ML-моделей: анализ ошибок, справедливости, интерпретируемости и причинно-следственных эффектов. Responsible AI Toolbox — это набор интерактивных панелей визуализации и библиотек Python для анализа моделей машинного обучения и данных. Основная точка входа — Responsible AI dashboard, объединяющий в одном интерфейсе для Jupyter notebooks анализ ошибок, оценку справедливости, интерпретацию моделей, анализ контрфактических сценариев и причинно-следственных связей, а также представления баланса данных.
- responsible-ai-toolbox можно использовать бесплатно? Какая у него лицензия?
- responsible-ai-toolbox распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- responsible-ai-toolbox всё ещё поддерживается?
- Активно поддерживается. Последний коммит в responsible-ai-toolbox — 7 нояб. 2026 г..
- Для чего можно использовать responsible-ai-toolbox?
- Поиск подгрупп, на которых классификатор работает плохо, до его развертывания. Проверка, не относится ли модель к демографическим группам по-разному. Объяснение отдельных предсказаний заинтересованным сторонам, оценивающим систему ИИ. Оценка того, как изменение входных данных или действие бизнеса может повлиять на результаты.
- Как установить responsible-ai-toolbox?
- Установите пакет Python из PyPI: pip install raiwidgets Откройте блокнот getting-started из примеров репозитория
- Где скачать responsible-ai-toolbox?
- Исходный код и инструкции по установке — на GitHub: https://github.com/microsoft/responsible-ai-toolbox
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Открытый Python-инструментарий для количественной оценки объяснений нейросетей с помощью более 30 метрик XAI в PyTorch и TensorFlow.
680+2 за неделю94Jupyter NotebookOtherОбновлён 12 дней назад
Полноценная замена Jupyter с AI-агентом, форматом ноутбуков `.deepnote` на YAML и блочным редактором для Python, R и SQL.
3 тыс.+6 за неделю204TypeScriptApache-2.0Активно поддерживаетсяОбновлён 3 часа назад
Платформа машинного обучения и ИИ для JVM: классическое ML, глубокое обучение, NLP, визуализация и инференс LLM/ONNX для Java, Kotlin и Scala.
6,4 тыс.1,1 тыс.JavaOtherАктивно поддерживаетсяОбновлён 5 часов назад
Библиотека для PyTorch с методами CAM, которые визуализируют области изображения, влияющие на предсказания модели компьютерного зрения.
13 тыс.+9 за неделю1,7 тыс.PythonMITОбновлён 7 дней назад
Библиотека на базе PyTorch Lightning для создания интерпретируемых моделей глубокого обучения на основе концепций, с аннотированными тензорами, интервенциями и вероятностными графическими моделями.
309+40 за неделю30PythonApache-2.0Обновлён 3 дня назад