microsoft/responsible-ai-toolbox

어떤 프로젝트인가요?

핵심 기능

• 01오류 분석, 공정성, 해석 가능성, 반사실 분석, 인과 분석을 하나의 대시보드로 제공합니다.
• 02모델의 오류율이 전체 오류율보다 높은 데이터 코호트를 찾아냅니다.
• 03민감한 특성별 그룹 공정성 지표를 계산합니다.
• 04InterpretML을 통해 전체 모델과 개별 예측에 대한 설명을 제공합니다.
• 05pip로 raiwidgets를 설치할 수 있으며 Jupyter 노트북에서 실행됩니다.
• 06scikit-learn 스타일 API, PyTorch, TensorFlow, Keras로 구축한 모델을 지원합니다.

활용 사례

• 분류기를 배포하기 전에 성능이 낮은 하위 그룹을 찾는 경우.
• 모델이 인구통계학적 그룹을 불평등하게 대우하는지 확인하는 경우.
• AI 시스템을 검토하는 이해관계자에게 개별 예측을 설명하는 경우.
• 입력값이나 비즈니스 조치를 변경했을 때 결과에 어떤 영향이 있을지 추정하는 경우.

빠른 시작

1. 1

   PyPI에서 Python 패키지를 설치합니다

   pip install raiwidgets
2. 2

   저장소의 examples에서 getting-started 노트북을 엽니다

사용 전 알아둘 점

• !README의 기본 빠른 시작은 Jupyter 노트북을 대상으로 하며, 설치 후 커널을 다시 시작해야 합니다.
• !프로젝트가 세 개의 저장소로 나뉘어 있어 관련 도구는 이 저장소 외부에 있습니다.

포함된 컬렉션

토픽

자주 묻는 질문

responsible-ai-toolbox은(는) 무엇인가요?

ML 모델의 오류 패턴, 공정성, 해석 가능성, 인과 효과를 평가하고 디버깅할 수 있는 Python 및 웹 UI 도구 모음입니다. Responsible AI Toolbox는 머신러닝 모델과 데이터를 살펴보기 위한 시각화 대시보드와 Python 라이브러리 모음입니다. 주요 진입점인 Responsible AI 대시보드는 오류 분석, 공정성 평가, 모델 해석, 반사실 분석, 인과 분석, 데이터 균형 관련 뷰를 하나의 인터페이스에 모아 Jupyter 노트북에서 사용할 수 있게 합니다.

responsible-ai-toolbox은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

responsible-ai-toolbox은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

responsible-ai-toolbox은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. responsible-ai-toolbox의 마지막 커밋은 2026년 11월 5일입니다.

responsible-ai-toolbox은(는) 어디에 사용할 수 있나요?

분류기를 배포하기 전에 성능이 낮은 하위 그룹을 찾는 경우. 모델이 인구통계학적 그룹을 불평등하게 대우하는지 확인하는 경우. AI 시스템을 검토하는 이해관계자에게 개별 예측을 설명하는 경우. 입력값이나 비즈니스 조치를 변경했을 때 결과에 어떤 영향이 있을지 추정하는 경우.

responsible-ai-toolbox는 어떻게 설치하나요?

PyPI에서 Python 패키지를 설치합니다: pip install raiwidgets 저장소의 examples에서 getting-started 노트북을 엽니다

responsible-ai-toolbox은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/microsoft/responsible-ai-toolbox