NVIDIA-NeMo/Guardrails

어떤 프로젝트인가요?

핵심 기능

• 01입력, 대화, 검색, 실행 및 출력 단계에 적용할 수 있는 프로그래밍 가능한 레일.
• 02대화 흐름을 정의하는 Colang 1.0 및 2.0 모델링 언어.
• 03jailbreak 탐지, 모더레이션, 팩트체크 및 민감 데이터 마스킹을 위한 기본 가드레일.
• 04generate 및 generate_async 메서드를 제공하는 비동기 우선 Python API.
• 05chat completions 엔드포인트를 갖춘 HTTP 서버, CLI 및 Docker 이미지.
• 06선택적으로 사용할 수 있는 LangChain 연동 및 주제 레일과 환각을 평가하는 도구.

활용 사례

• 고객 지원 챗봇이 주제에서 벗어나지 않고 정해진 대화 흐름을 따르게 하기.
• RAG 질의응답 시스템에 모더레이션과 팩트체크 추가하기.
• 사용자 입력에 포함된 개인 데이터를 LLM에 전달하기 전에 마스킹하기.
• 외부 사용자에게 서비스를 제공하는 맞춤형 LLM 엔드포인트 앞에 안전성 계층 배치하기.

빠른 시작

1. 1

   pip로 라이브러리 설치하기

   pip install nemoguardrails
2. 2

   가드레일 구성을 불러오고 LLMRails 인스턴스 만들기(Python API)

3. 3

   메시지와 함께 rails.generate 호출하기

사용 전 알아둘 점

• !구성을 실행하려면 LLM 백엔드와 해당 API 인증 정보가 필요하며, 직접 준비해야 합니다.
• !기본값은 Colang 1.0이고 Colang 2.0은 별도의 구문이므로, 구성에서 사용할 버전을 선택해야 합니다.

토픽

자주 묻는 질문

Guardrails은(는) 무엇인가요?

LLM 기반 대화형 애플리케이션에 프로그래밍 가능한 가드레일을 추가해 주제, 대화 흐름, 출력을 제어하는 오픈 소스 Python 툴킷입니다. NeMo Guardrails는 애플리케이션 코드와 대규모 언어 모델 사이에 프로그래밍 가능한 가드레일을 배치하는 NVIDIA의 툴킷입니다. 가드레일은 모델이 어떤 주제를 다룰지, 특정 요청에 어떻게 응답할지, 어떤 대화 흐름을 따를지, 그리고 구조화된 데이터 추출과 같은 출력의 형식이나 구조를 어떻게 정할지 제어합니다.

Guardrails은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

Guardrails은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

Guardrails은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. Guardrails의 마지막 커밋은 2026년 10월 20일입니다.

Guardrails은(는) 어디에 사용할 수 있나요?

고객 지원 챗봇이 주제에서 벗어나지 않고 정해진 대화 흐름을 따르게 하기. RAG 질의응답 시스템에 모더레이션과 팩트체크 추가하기. 사용자 입력에 포함된 개인 데이터를 LLM에 전달하기 전에 마스킹하기. 외부 사용자에게 서비스를 제공하는 맞춤형 LLM 엔드포인트 앞에 안전성 계층 배치하기.

Guardrails는 어떻게 설치하나요?

pip로 라이브러리 설치하기: pip install nemoguardrails 가드레일 구성을 불러오고 LLMRails 인스턴스 만들기(Python API) 메시지와 함께 rails.generate 호출하기

Guardrails은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/NVIDIA-NeMo/Guardrails